初涉kafka
前言:
今天终于搭建成功kafka环境,并创建了第一个topic,并生产、消费消息,如下图:
消费:
心情真的是好激动,大家都说搭建环境其实特别简单,但是我的学习却一直卡在搭建环境上面,不是虚拟机起不来,就是找不到地方下载安装文件,,,真不知道是我任通二脉未开,还是天生没有慧根。
从事了三年java开发,linux安装jdk还是需要找运维同事帮忙……说来惭愧呀!!!
最近组织学习kafka,已经学习了两周时间,这是第三周,自己摸索着搭建kafka,嗯。。。已经做好了遇到各种问题的心理准备,,,果然很久没有的虚拟机网卡出现了问题,花了一天的时间整网卡,集群完毕;下载zookeeper并安装,嗯(之前有安装过,还好,没遇到问题),安装kafka,启动……报错。。。jdk需要8,我的是7,不是是不是虚拟机版本问题,ubuntu14,怎么也安装不了openjdk8,最高只有7,好吧,,,从官网下载linux的jdk8.。。。下载竟然要登录,,,注册账号收不到邮件……坑。。。又过了一天,,,第二天再试,注册成功,登录报错,,,网上说有跳过登录下载,打死都找不到。。。尝试n遍放弃。。。从csdn下载。。。下载券都好多,有甚者要50个下载劵,而我兜里只有4个,,,贫穷的我,找了半天终于找到了个
只要1个的,下载完毕,照教程安装jdk,,,从未安装有些惧怕。。。果然各种环境配置问题~/.bashrc ~/.profile /etc/profile 三个文件,两个用户,5个配置,一个4台linux服务器组成的集群,,,搞了半天才搞清楚,重要学会了配置jdk,然后时间不早了,尝试启动kafka失败。。。算了,明天再说吧。 今天启动虚拟机。。。发现我的一些配置没有了。。。之前安装操作,配置了zookeeper的data、日志、myid在/tmp目录下,今天重启,干干净净。。。重新配置,这次配置在安装目录一起,,,然后配置启动,更改kafka日志路径,更改kafka配置文件。启动!!!重要启动成功。无比开心,无比激动!!!!以此记录以作纪念。
初涉kafka的更多相关文章
- Spark踩坑记——Spark Streaming+Kafka
[TOC] 前言 在WeTest舆情项目中,需要对每天千万级的游戏评论信息进行词频统计,在生产者一端,我们将数据按照每天的拉取时间存入了Kafka当中,而在消费者一端,我们利用了spark strea ...
- 消息队列 Kafka 的基本知识及 .NET Core 客户端
前言 最新项目中要用到消息队列来做消息的传输,之所以选着 Kafka 是因为要配合其他 java 项目中,所以就对 Kafka 了解了一下,也算是做个笔记吧. 本篇不谈论 Kafka 和其他的一些消息 ...
- kafka学习笔记:知识点整理
一.为什么需要消息系统 1.解耦: 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余: 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险. ...
- .net windows Kafka 安装与使用入门(入门笔记)
完整解决方案请参考: Setting Up and Running Apache Kafka on Windows OS 在环境搭建过程中遇到两个问题,在这里先列出来,以方便查询: 1. \Jav ...
- kafka配置与使用实例
kafka作为消息队列,在与netty.多线程配合使用时,可以达到高效的消息队列
- kafka源码分析之一server启动分析
0. 关键概念 关键概念 Concepts Function Topic 用于划分Message的逻辑概念,一个Topic可以分布在多个Broker上. Partition 是Kafka中横向扩展和一 ...
- Kafka副本管理—— 为何去掉replica.lag.max.messages参数
今天查看Kafka 0.10.0的官方文档,发现了这样一句话:Configuration parameter replica.lag.max.messages was removed. Partiti ...
- Kafka:主要参数详解(转)
原文地址:http://kafka.apache.org/documentation.html ############################# System ############### ...
- kafka
2016-11-13 20:48:43 简单说明什么是kafka? Apache kafka是消息中间件的一种,我发现很多人不知道消息中间件是什么,在开始学习之前,我这边就先简单的解释一下什么是消息 ...
随机推荐
- set unused
使用 set unused 选项标记不再使用的列 使用 drop unsused columns 丢弃标记为unused的列 alter table tabName set unused column ...
- Wireshark中的结果分析
Header checksum: 0x9899 [validation disabled] 因为,wireshark不自动做tcp校验和的检验.原因是因为:有时tcp校验和会由网卡计算,因此wires ...
- php内置函数分析之trim()
官方手册中: 类似函数还有两个:ltrim() 和 rtrim().分别处理字符串的左侧.右侧. trim()的具体实现位于:ext/standard/string.c /* {{{ proto st ...
- bzoj5118 Fib数列2 二次剩余+矩阵快速幂
题目传送门 https://lydsy.com/JudgeOnline/problem.php?id=5118 题解 这个题一看就是不可做的样子. 求斐波那契数列的第 \(n\) 项,\(n \leq ...
- 前端每日实战:45# 视频演示如何用纯 CSS 创作一个菱形 loader 动画
效果预览 按下右侧的"点击预览"按钮可以在当前页面预览,点击链接可以全屏预览. https://codepen.io/comehope/pen/eKzjqK 可交互视频教程 此视频 ...
- linux系统基础的优化以及常用命令
编辑网卡配置文件 vim /etc/sysconfig/network-scripts/ifcfg-eth0 修改配置参数 ONBOOT= yes启动或者关闭ipsystemctl restart/s ...
- JS大文件上传解决方案
1 背景 用户本地有一份txt或者csv文件,无论是从业务数据库导出.还是其他途径获取,当需要使用蚂蚁的大数据分析工具进行数据加工.挖掘和共创应用的时候,首先要将本地文件上传至ODPS,普通的小文件通 ...
- 实现word在线预览 有php的写法 也有插件似
<?php //header("Content-type:text/html;charset=utf-8"); //word转html 展示 $lj=$_GET['file' ...
- install mysql firewall
- Eclipse报内存溢出
(1)在配置tomcat的JDK里面设置.Window-->proference->Myeclipse-->servers-->Tomcat5-->JDK里面设置: -X ...