安装部署Kafka集群
kafka是一个开源的分布式消息订阅系统(消息中间件)
安装过程
1.下载kafka_2.11-0.10.1.0.gz(ps:千万不要下错了,博主就是下到了src文件上去了,kafka中的zookeeper起不起来)
2.上传至/usr/local/src
3.解压缩,并且移动到上级目录
4.进入主目录的config子目录,
5.修改server.properties配置文件
vim server.properties
内容如下:


6.保存并退出
7.主节点配置完毕,远程复制到另外两个节点
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi129:/usr/local
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi130:/usr/local
8.修改另外两个节点的server.properties 配置文件
修改内容分别如下:
主机:guoyansi129
############################# Server Basics #############################
broker.id=
host.name=guoyansi129
主机guoyansi130
############################# Server Basics #############################
broker.id=
host.name=guoyansi130
9.启动kafka的zookeeper服务
bin/zookeeper-server-start.sh config/zookeeper.properties
显示一些信息后;界面进入停顿状态;表示zookeeper启动成功;此时不要关闭窗口;
10.启动主节点的kafka服务
新开一个guoyansi128终端;
启动方式一:退出后,kafka就自动关闭了。
bin/kafka-server-start.sh config/server.properties
由于Kafka是作为守护进程加载的,执行上述命令后终端显示停顿状态,这表示系统已经处于后台运行状态,
所以不要关闭该终端,只要保持当前状态即可。
启动方式二:退出后,kafka照常运行,提供服务。
nohup bin/kafka-server-start.sh config/server.properties >> /tmp/out.log &
上面是进程守护模式启动kafka
还可以另外开一个终端,执行jps查看当前系统的进程列表

这里的QuorumPeerMain就是Kafka自带的zookeeper服务进程;
而kafka自然就是Kafka服务进程。
11.启动另外两个节点的Kafka服务;执行同样的命令:
bin/kafka-server-start.sh config/server.properties
12.主节点创建主题:
使用kafka,一定需要创建消息主题;
创建test主题
bin/kafka-topics.sh --create -zookeeper guoyansi128: --replication-factor --partitions --topic test

查看主题消息:
bin/kafka-topics.sh --list --zookeeper guoyansi128:

13.另起终端创建消息生产者
bin/kafka-console-producer.sh --broker-list guoyansi128: --topic test
界面处于等待状态
14.另起终端创建消息接收者
bin/kafka-console-consumer.sh --zookeeper guoyansi128: --topic test --from-beginning
此时界面同样处于等待状态
15.从13步的界面(生产者界面)输入信息,就会从14步(接收者界面)看到生产者界面输入的信息。 
16.查看主题中的信息:
bin/kafka-topics.sh --describe --zookeeper guoyansi128 --topic test

17.因为是集群部署,所以可以在任何节点接收消息和创建消息。
安装部署Kafka集群的更多相关文章
- 【kafka】安装部署kafka集群(kafka版本:kafka_2.12-2.3.0)
3.2.1 下载kafka并安装kafka_2.12-2.3.0.tgz tar -zxvf kafka_2.12-2.3.0.tgz 3.2.2 配置kafka集群 在config/server.p ...
- 使用docker安装部署Spark集群来训练CNN(含Python实例)
使用docker安装部署Spark集群来训练CNN(含Python实例) http://blog.csdn.net/cyh_24/article/details/49683221 实验室有4台神服务器 ...
- kubernetes系列03—kubeadm安装部署K8S集群
本文收录在容器技术学习系列文章总目录 1.kubernetes安装介绍 1.1 K8S架构图 1.2 K8S搭建安装示意图 1.3 安装kubernetes方法 1.3.1 方法1:使用kubeadm ...
- supervisor的安装部署及集群管理
supervisor的安装部署及集群管理 supervisor官网:http://www.supervisord.org/ 参考链接: http://blog.csdn.net/xyang81/art ...
- 安装部署 Kubernetes 集群
安装部署 Kubernetes 集群 阅读目录: 准备工作 部署 Master 管理节点 部署 Minion 工作节点 部署 Hello World 应用 安装 Dashboard 插件 安装 Hea ...
- 【大数据之数据仓库】安装部署GreenPlum集群
本篇将向大家介绍如何快捷的安装部署GreenPlum测试集群,大家可以跟着我一块儿实践一把^_^ 1.主机资源 申请2台网易云主机,操作系统必须是RedHat或者CentOS,配置尽量高一点.如果是s ...
- Docker安装部署es集群
Docker安装部署es集群:环境准备:已安装docker的centos服务器一台1. 拉取es版本docker pull elasticsearch:5.6.82. 新建文件夹 数据挂载目录 和 配 ...
- centos7.8 安装部署 k8s 集群
centos7.8 安装部署 k8s 集群 目录 centos7.8 安装部署 k8s 集群 环境说明 Docker 安装 k8s 安装准备工作 Master 节点安装 k8s 版本查看 安装 kub ...
- 4. 利用MySQL Shell安装部署MGR集群 | 深入浅出MGR
GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 目录 1. 安装准备 2. 利用MySQL Shell构建MGR集群 3. MySQL Shell接管现存的MGR集群 4 ...
随机推荐
- mysql 索引查询 、创建 create index 与 add index 的区别
1.索引查询 ------TABLE_SCHEMA 库名:TABLE 表名 ------AND UPPER(INDEX_NAME) != 'PRIMARY' 只查询索引,不需要主键 SELECT ...
- jQuery-3.事件篇---事件对象的使用
jQuery事件对象的作用 事件中的Event对象容易被初学者忽略掉,可能大多时候初学者不知道怎么去用它,但有些时候它还是非常有用的 一个标准的"click"点击事件 $(elem ...
- Mac 电脑终端上传项目到github上
1.安装Git 去官网自己研究(这个是很全的,也很详细:http://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b806 ...
- Spring Boot框架的自动配置
(图片来源于网络,侵删!!!) l @RestController 因为我们例子是写一个web应用,因此写的这个注解,这个注解相当于同时添加@Controller和@ResponseBody注解 l ...
- Qt学习资料
网址:http://www.qter.org/portal.php?mod=list&catid=18 qt开源社区 (门户)里面有在线学习资料(讲的比较粗略 但是进程比较快 适用于快速学习) ...
- MYSQL常用命令2
mysql 的dos命令行大全 2016年11月04日 16:03:59 阅读数:7987 1.连接Mysql(中文乱码在文章的最后) 格式: mysql -h主机地址 -u用户名 -p用户密码 1. ...
- fillder抓包工具详解
https://www.cnblogs.com/yyhh/p/5140852.html
- 20. Web proxies (网页代理 4个)
用于评估Web应用程序漏洞的基于Java的Web代理. 它支持在运行时编辑/查看HTTP / HTTPS消息,以更改Cookie和表单字段等项. 它包括网络流量记录器,网络蜘蛛,哈希计算器和用于测试常 ...
- 汇编实验1(又是作业emm)
实验任务:学会使用debug 1.使用Debug,将程序段写入内存: 机器码: b8 20 4e 05 16 14 bb 00 20 01 d8 89 c3 01 d8 b8 1a 00 bb 26 ...
- JavaScript第一阶段学习心得
开始接触JavaScript是从慕课网开始的,基础篇学完.懵了一逼,可能是自己太蠢.感觉跟没学差不多,属性,方法,对象,什么都不懂.有的方法知道起的是什么效果,但是原理什么的都不知道. 还好,基础篇学 ...