kafka是一个开源的分布式消息订阅系统(消息中间件)

安装过程

1.下载kafka_2.11-0.10.1.0.gz(ps:千万不要下错了,博主就是下到了src文件上去了,kafka中的zookeeper起不起来)

2.上传至/usr/local/src

3.解压缩,并且移动到上级目录

4.进入主目录的config子目录,

5.修改server.properties配置文件

vim server.properties

内容如下:

6.保存并退出

7.主节点配置完毕,远程复制到另外两个节点

scp -r /usr/local/kafka_2.-0.10.1.0   guoyansi129:/usr/local
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi130:/usr/local

8.修改另外两个节点的server.properties 配置文件

修改内容分别如下:

主机:guoyansi129  

############################# Server Basics #############################
broker.id=
host.name=guoyansi129

主机guoyansi130

############################# Server Basics #############################
broker.id=
host.name=guoyansi130

9.启动kafka的zookeeper服务

bin/zookeeper-server-start.sh config/zookeeper.properties

显示一些信息后;界面进入停顿状态;表示zookeeper启动成功;此时不要关闭窗口;

10.启动主节点的kafka服务

新开一个guoyansi128终端;

启动方式一:退出后,kafka就自动关闭了。

bin/kafka-server-start.sh config/server.properties

由于Kafka是作为守护进程加载的,执行上述命令后终端显示停顿状态,这表示系统已经处于后台运行状态,

所以不要关闭该终端,只要保持当前状态即可。

启动方式二:退出后,kafka照常运行,提供服务。

nohup bin/kafka-server-start.sh config/server.properties >> /tmp/out.log &

上面是进程守护模式启动kafka

还可以另外开一个终端,执行jps查看当前系统的进程列表

这里的QuorumPeerMain就是Kafka自带的zookeeper服务进程;

而kafka自然就是Kafka服务进程。

11.启动另外两个节点的Kafka服务;执行同样的命令:

bin/kafka-server-start.sh config/server.properties

12.主节点创建主题:

使用kafka,一定需要创建消息主题;

创建test主题

bin/kafka-topics.sh --create -zookeeper guoyansi128: --replication-factor  --partitions  --topic test

查看主题消息:

bin/kafka-topics.sh --list --zookeeper guoyansi128:

13.另起终端创建消息生产者

bin/kafka-console-producer.sh  --broker-list guoyansi128: --topic test

界面处于等待状态

14.另起终端创建消息接收者

bin/kafka-console-consumer.sh  --zookeeper guoyansi128:  --topic test --from-beginning

此时界面同样处于等待状态

15.从13步的界面(生产者界面)输入信息,就会从14步(接收者界面)看到生产者界面输入的信息。

16.查看主题中的信息:

bin/kafka-topics.sh  --describe --zookeeper guoyansi128 --topic test

17.因为是集群部署,所以可以在任何节点接收消息和创建消息。

安装部署Kafka集群的更多相关文章

  1. 【kafka】安装部署kafka集群(kafka版本:kafka_2.12-2.3.0)

    3.2.1 下载kafka并安装kafka_2.12-2.3.0.tgz tar -zxvf kafka_2.12-2.3.0.tgz 3.2.2 配置kafka集群 在config/server.p ...

  2. 使用docker安装部署Spark集群来训练CNN(含Python实例)

    使用docker安装部署Spark集群来训练CNN(含Python实例) http://blog.csdn.net/cyh_24/article/details/49683221 实验室有4台神服务器 ...

  3. kubernetes系列03—kubeadm安装部署K8S集群

    本文收录在容器技术学习系列文章总目录 1.kubernetes安装介绍 1.1 K8S架构图 1.2 K8S搭建安装示意图 1.3 安装kubernetes方法 1.3.1 方法1:使用kubeadm ...

  4. supervisor的安装部署及集群管理

    supervisor的安装部署及集群管理 supervisor官网:http://www.supervisord.org/ 参考链接: http://blog.csdn.net/xyang81/art ...

  5. 安装部署 Kubernetes 集群

    安装部署 Kubernetes 集群 阅读目录: 准备工作 部署 Master 管理节点 部署 Minion 工作节点 部署 Hello World 应用 安装 Dashboard 插件 安装 Hea ...

  6. 【大数据之数据仓库】安装部署GreenPlum集群

    本篇将向大家介绍如何快捷的安装部署GreenPlum测试集群,大家可以跟着我一块儿实践一把^_^ 1.主机资源 申请2台网易云主机,操作系统必须是RedHat或者CentOS,配置尽量高一点.如果是s ...

  7. Docker安装部署es集群

    Docker安装部署es集群:环境准备:已安装docker的centos服务器一台1. 拉取es版本docker pull elasticsearch:5.6.82. 新建文件夹 数据挂载目录 和 配 ...

  8. centos7.8 安装部署 k8s 集群

    centos7.8 安装部署 k8s 集群 目录 centos7.8 安装部署 k8s 集群 环境说明 Docker 安装 k8s 安装准备工作 Master 节点安装 k8s 版本查看 安装 kub ...

  9. 4. 利用MySQL Shell安装部署MGR集群 | 深入浅出MGR

    GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 目录 1. 安装准备 2. 利用MySQL Shell构建MGR集群 3. MySQL Shell接管现存的MGR集群 4 ...

随机推荐

  1. 【oacle入门】表空间类型

    系统表空间 系统表空间包括SYSTEM和SYSAUX表空间,系统表空间是所有数据库必须且自动创建的,一般存放在Oracle的数据字典表及相应数据. 永久表空间 永久表空间用户保存永久性数据,如系统数据 ...

  2. QWaiteCondition思考3

    QWaitConditioin::wait() 接收一个mutex作为参数,这个mutex应该被调用线程初始化为锁定状态.在线程进入休眠状态(waite)之前,mutex会被解锁.当线程被唤醒(Wak ...

  3. hive从本地导入数据时出现「Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask」错误

    现象 通过load data local导入本地文件时报无法导入的错误 hive> load data local inpath '/home/hadoop/out/mid_test.txt' ...

  4. Mysql数据库账户权限设置

    1.修改mysql数据库的root密码: 修改 数据库.表名 SET password=加密(‘密码’) where user=’root’; UPDATE mysql.user SET passwo ...

  5. Skynet服务热点火焰图分析

    最近花了一周时间对场景服务进行热点分析,利用以前的火焰图工具做了一点微小的贡献,分享下心得(仓库地址在https://github.com/spin6lock/skynet_systemtap_set ...

  6. .Net中World转PDF

    using System;using System.Collections.Generic;using System.Linq;using System.Web;using Aspose.Words; ...

  7. Tomcat服务器安装及配置

    一.JDK环境安装 1.tomcat服务器需要在已安装JDK的环境下才能正确安装并运行,首先到Java官网下载jdk 先同意协议,再下载对应的版本(我的系统是Windows10 64位) 2.下载完成 ...

  8. maya模板lock工具

    #lockTemple import  maya.cmds  as  mcimport stringif  mc.window('LockWin',ex=1)==1:    mc.deleteUI(' ...

  9. 关于python的装饰器(初解)

    在python中,装饰器(decorator)是一个主要的函数,在工作中,有了装饰器简直如虎添翼,许多公司面试题也会考装饰器,而装饰器的意思又很难让人理解. python中,装饰器是一个帮函数动态增加 ...

  10. hbase整合

    hbase與hive整合    1. hive中有數據 --> 創建hive管理表映射hbase    例如:        1)hive創建內部表            create tabl ...