初涉kafka
前言:
今天终于搭建成功kafka环境,并创建了第一个topic,并生产、消费消息,如下图:
消费:
心情真的是好激动,大家都说搭建环境其实特别简单,但是我的学习却一直卡在搭建环境上面,不是虚拟机起不来,就是找不到地方下载安装文件,,,真不知道是我任通二脉未开,还是天生没有慧根。
从事了三年java开发,linux安装jdk还是需要找运维同事帮忙……说来惭愧呀!!!
最近组织学习kafka,已经学习了两周时间,这是第三周,自己摸索着搭建kafka,嗯。。。已经做好了遇到各种问题的心理准备,,,果然很久没有的虚拟机网卡出现了问题,花了一天的时间整网卡,集群完毕;下载zookeeper并安装,嗯(之前有安装过,还好,没遇到问题),安装kafka,启动……报错。。。jdk需要8,我的是7,不是是不是虚拟机版本问题,ubuntu14,怎么也安装不了openjdk8,最高只有7,好吧,,,从官网下载linux的jdk8.。。。下载竟然要登录,,,注册账号收不到邮件……坑。。。又过了一天,,,第二天再试,注册成功,登录报错,,,网上说有跳过登录下载,打死都找不到。。。尝试n遍放弃。。。从csdn下载。。。下载券都好多,有甚者要50个下载劵,而我兜里只有4个,,,贫穷的我,找了半天终于找到了个
只要1个的,下载完毕,照教程安装jdk,,,从未安装有些惧怕。。。果然各种环境配置问题~/.bashrc ~/.profile /etc/profile 三个文件,两个用户,5个配置,一个4台linux服务器组成的集群,,,搞了半天才搞清楚,重要学会了配置jdk,然后时间不早了,尝试启动kafka失败。。。算了,明天再说吧。 今天启动虚拟机。。。发现我的一些配置没有了。。。之前安装操作,配置了zookeeper的data、日志、myid在/tmp目录下,今天重启,干干净净。。。重新配置,这次配置在安装目录一起,,,然后配置启动,更改kafka日志路径,更改kafka配置文件。启动!!!重要启动成功。无比开心,无比激动!!!!以此记录以作纪念。
初涉kafka的更多相关文章
- Spark踩坑记——Spark Streaming+Kafka
[TOC] 前言 在WeTest舆情项目中,需要对每天千万级的游戏评论信息进行词频统计,在生产者一端,我们将数据按照每天的拉取时间存入了Kafka当中,而在消费者一端,我们利用了spark strea ...
- 消息队列 Kafka 的基本知识及 .NET Core 客户端
前言 最新项目中要用到消息队列来做消息的传输,之所以选着 Kafka 是因为要配合其他 java 项目中,所以就对 Kafka 了解了一下,也算是做个笔记吧. 本篇不谈论 Kafka 和其他的一些消息 ...
- kafka学习笔记:知识点整理
一.为什么需要消息系统 1.解耦: 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余: 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险. ...
- .net windows Kafka 安装与使用入门(入门笔记)
完整解决方案请参考: Setting Up and Running Apache Kafka on Windows OS 在环境搭建过程中遇到两个问题,在这里先列出来,以方便查询: 1. \Jav ...
- kafka配置与使用实例
kafka作为消息队列,在与netty.多线程配合使用时,可以达到高效的消息队列
- kafka源码分析之一server启动分析
0. 关键概念 关键概念 Concepts Function Topic 用于划分Message的逻辑概念,一个Topic可以分布在多个Broker上. Partition 是Kafka中横向扩展和一 ...
- Kafka副本管理—— 为何去掉replica.lag.max.messages参数
今天查看Kafka 0.10.0的官方文档,发现了这样一句话:Configuration parameter replica.lag.max.messages was removed. Partiti ...
- Kafka:主要参数详解(转)
原文地址:http://kafka.apache.org/documentation.html ############################# System ############### ...
- kafka
2016-11-13 20:48:43 简单说明什么是kafka? Apache kafka是消息中间件的一种,我发现很多人不知道消息中间件是什么,在开始学习之前,我这边就先简单的解释一下什么是消息 ...
随机推荐
- 【学习】006数据交换格式与SpringIOC底层实现
课程目标 XML和JSON Java反射机制 手写SpringIOC 什么是数据交换格式 客户端与服务器常用数据交换格式xml.json.html 数据交换格式用场景 移动端(安卓.IOS)通讯方式采 ...
- alert(1) to win 5
function escape(s) { var text = s.replace(/</g, '<').replace(/"/g, '"'); // URLs tex ...
- centos 6.5 安装 maven
从nexus官网下载Nexus Repository Manager OSS 2.x的安装包:nexus-2.14.1-01-bundle.tar.gz,3.x版本需要jdk8及以上 解压 tar x ...
- Java IO方式
原创转载请注明出处:https://www.cnblogs.com/agilestyle/p/11444349.html BIO 传统的java.io包,它基于流模型实现,提供了我们最熟知的一些IO功 ...
- re模块的高级使用
主要有四个方法: search : 从字符串的任意位置开始检索,首次匹配即结束 findall : 全部匹配 sub : 将正则匹配结果进行替换 split : 根据正则匹配结果将字符串进行切分,然后 ...
- JLRoutes笔记
1.在info.plist中添加 <key>CFBundleURLTypes</key> <array> <dict> <key>CFBun ...
- Centos7网卡绑定的两种方法
https://blog.51cto.com/youdong/1963416 选择模式4,并且layer选择3+4,交换机要配置LAG 一.传统的bond方式 (1)bond几种主要模式介绍 ü mo ...
- 字符串(二):string
字符串使用方法整理 系列: 字符串(一):char 数组 字符串(二):string string 是 C++ STL 的一个字符串类型,原型是 vector<char> 并对字符串处理做 ...
- Android keystore 密码找回
昨天准备给自己的应用发布一个新版本,在apk打包时,发现之前的用的keystore密码忘了. 蛋碎了一地,我把我所能想到的密码都试了一遍(注:我平常在各个门户网站注册基本上用的都是那几个字母和数字组合 ...
- laravel的使用
1.先下载composer.phar 下载地址:https://getcomposer.org/download/ 把composer.phar拷贝到自己的项目目录中,执行以下代码: php comp ...