安装部署Kafka集群
kafka是一个开源的分布式消息订阅系统(消息中间件)
安装过程
1.下载kafka_2.11-0.10.1.0.gz(ps:千万不要下错了,博主就是下到了src文件上去了,kafka中的zookeeper起不起来)
2.上传至/usr/local/src
3.解压缩,并且移动到上级目录
4.进入主目录的config子目录,
5.修改server.properties配置文件
vim server.properties
内容如下:


6.保存并退出
7.主节点配置完毕,远程复制到另外两个节点
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi129:/usr/local
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi130:/usr/local
8.修改另外两个节点的server.properties 配置文件
修改内容分别如下:
主机:guoyansi129
############################# Server Basics #############################
broker.id=
host.name=guoyansi129
主机guoyansi130
############################# Server Basics #############################
broker.id=
host.name=guoyansi130
9.启动kafka的zookeeper服务
bin/zookeeper-server-start.sh config/zookeeper.properties
显示一些信息后;界面进入停顿状态;表示zookeeper启动成功;此时不要关闭窗口;
10.启动主节点的kafka服务
新开一个guoyansi128终端;
启动方式一:退出后,kafka就自动关闭了。
bin/kafka-server-start.sh config/server.properties
由于Kafka是作为守护进程加载的,执行上述命令后终端显示停顿状态,这表示系统已经处于后台运行状态,
所以不要关闭该终端,只要保持当前状态即可。
启动方式二:退出后,kafka照常运行,提供服务。
nohup bin/kafka-server-start.sh config/server.properties >> /tmp/out.log &
上面是进程守护模式启动kafka
还可以另外开一个终端,执行jps查看当前系统的进程列表

这里的QuorumPeerMain就是Kafka自带的zookeeper服务进程;
而kafka自然就是Kafka服务进程。
11.启动另外两个节点的Kafka服务;执行同样的命令:
bin/kafka-server-start.sh config/server.properties
12.主节点创建主题:
使用kafka,一定需要创建消息主题;
创建test主题
bin/kafka-topics.sh --create -zookeeper guoyansi128: --replication-factor --partitions --topic test

查看主题消息:
bin/kafka-topics.sh --list --zookeeper guoyansi128:

13.另起终端创建消息生产者
bin/kafka-console-producer.sh --broker-list guoyansi128: --topic test
界面处于等待状态
14.另起终端创建消息接收者
bin/kafka-console-consumer.sh --zookeeper guoyansi128: --topic test --from-beginning
此时界面同样处于等待状态
15.从13步的界面(生产者界面)输入信息,就会从14步(接收者界面)看到生产者界面输入的信息。 
16.查看主题中的信息:
bin/kafka-topics.sh --describe --zookeeper guoyansi128 --topic test

17.因为是集群部署,所以可以在任何节点接收消息和创建消息。
安装部署Kafka集群的更多相关文章
- 【kafka】安装部署kafka集群(kafka版本:kafka_2.12-2.3.0)
3.2.1 下载kafka并安装kafka_2.12-2.3.0.tgz tar -zxvf kafka_2.12-2.3.0.tgz 3.2.2 配置kafka集群 在config/server.p ...
- 使用docker安装部署Spark集群来训练CNN(含Python实例)
使用docker安装部署Spark集群来训练CNN(含Python实例) http://blog.csdn.net/cyh_24/article/details/49683221 实验室有4台神服务器 ...
- kubernetes系列03—kubeadm安装部署K8S集群
本文收录在容器技术学习系列文章总目录 1.kubernetes安装介绍 1.1 K8S架构图 1.2 K8S搭建安装示意图 1.3 安装kubernetes方法 1.3.1 方法1:使用kubeadm ...
- supervisor的安装部署及集群管理
supervisor的安装部署及集群管理 supervisor官网:http://www.supervisord.org/ 参考链接: http://blog.csdn.net/xyang81/art ...
- 安装部署 Kubernetes 集群
安装部署 Kubernetes 集群 阅读目录: 准备工作 部署 Master 管理节点 部署 Minion 工作节点 部署 Hello World 应用 安装 Dashboard 插件 安装 Hea ...
- 【大数据之数据仓库】安装部署GreenPlum集群
本篇将向大家介绍如何快捷的安装部署GreenPlum测试集群,大家可以跟着我一块儿实践一把^_^ 1.主机资源 申请2台网易云主机,操作系统必须是RedHat或者CentOS,配置尽量高一点.如果是s ...
- Docker安装部署es集群
Docker安装部署es集群:环境准备:已安装docker的centos服务器一台1. 拉取es版本docker pull elasticsearch:5.6.82. 新建文件夹 数据挂载目录 和 配 ...
- centos7.8 安装部署 k8s 集群
centos7.8 安装部署 k8s 集群 目录 centos7.8 安装部署 k8s 集群 环境说明 Docker 安装 k8s 安装准备工作 Master 节点安装 k8s 版本查看 安装 kub ...
- 4. 利用MySQL Shell安装部署MGR集群 | 深入浅出MGR
GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 目录 1. 安装准备 2. 利用MySQL Shell构建MGR集群 3. MySQL Shell接管现存的MGR集群 4 ...
随机推荐
- jquery 上滑加载更多
$(document).ready(function() { var totalPage = {$totalPage};//总页数 var page = {$page}; //起始页 var page ...
- PSP耗时
- python笔记-数学、元组、日期、文件
python在很多地方和C++相似,比如都会有关系.逻辑等运算符,但也有不同的地方,比如:#Python Number 类型转换int(x [,base ]) 将x转换为一个整数 long(x [,b ...
- vue项目localhost可以访问 ip不能访问
解决方法: 如图所示:
- vlookup使用
数据处理过程中,需要excel进行简单的操作,比如vlookup,摸索之后,总结如下:
- 小妖精的完美游戏教室——人工智能,A*算法,结点篇
//================================================================//// Copyright (C) 2017 Team Saluk ...
- MySQL-01-基础
大纲 1)mysql存储结构: 数据库 -> 表 -> 数据 sql语句 2)管理数据库: 增加: create database 数据库 default character utf8 ...
- ubuntu下安装无界面浏览器
ubuntu下安装PhantomJS 1.下载: 32位:wget https://bitbucket.org/ariya/phantomjs/downloads/phantomjs-2.1.1-li ...
- 私有IP
私有IP地址段为10.0.0.0-10.255.255.255,172.16.0.0-172.31.255.255,192.168.0.0-192.168.255.255.
- 【Jest】笔记一:环境配置
一.开发环境 Mac node.js:v9.9.0 下载链接:http://nodejs.cn/download/ VScode 下载链接:https://code.visualstudio.com ...