应用摘要

Apache kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的

分布式发布订阅消息系统,是消息中间件的一种,用于构建实时数据管道和流应用程序,很火!

          Kafka官网:http://kafka.apache.org/

          学习推荐  :http://orchome.com/kafka/index

          官网下载  :http://kafka.apache.org/downloads

安装环境

Kafka集群环境搭建,需要准备好一个zookeeper环境(集群),zk集群部署:>> 点击这里 <<

说明:kafka名中的2.12是Scala语言版本,后面的0.11.0.2是kafka版本,端口默认为9092。


安装步骤
 
 1.下载kafka并解压
   [root@server- ~]# tar zxvf kafka_2.-0.11.0.2.tgz -C /opt/ 
  
   

 2. 编辑配置文件

  进入到config目录,编辑配置文件:server.properties

   [root@server- config]# vim server.properties

  

  

  

  

  其他配置可以保持默认,保持,退出;

  参数说明可以参考http://orchome.com/12 或者 http://blog.csdn.net/lizhitao/article/details/25667831

  同样的操作在server-2和server-3上修改一下broker.id和host.name,不再赘述。

 3. 启动Kafka

  切换到bin目录中,查看相关脚本:

  

  

   [root@server- bin]# ./kafka-server-start.sh -daemon ../config/server.properties     // -daemon:以后台方式启动

  查看9092端口状态,确保服务已经启动;

  同样的,启动server-2和server-3:

   [root@server- bin]# ./kafka-server-start.sh -daemon ../config/server.properties

   [root@server- bin]# ./kafka-server-start.sh -daemon ../config/server.properties

  至此,kafka安装启动完成。

  关闭命令: [root@server- bin]# ./kafka-server-stop.sh     //不带任何参数即可

 4. 检查测试

    在上一篇部署zookeeper集群的时候提到连接kafka使用的时候,里面除了zookeeper之外还有其他内容,来查看一下。

  登录zookeeper(切换到zk的bin目录下),先连接zk:

   [root@server- bin]# ./zkCli.sh -server 192.168.1.21:

 [zk: 192.168.1.21:(CONNECTED) ] ls /          

 cluster                    controller                 controller_epoch           brokers
 zookeeper admin isr_change_notification consumers
 latest_producer_id_block config
 [zk: 192.168.1.21:(CONNECTED) ] ls /brokers
 [ids, topics, seqid]
 [zk: 192.168.1.21:(CONNECTED) ] ls /brokers/ids
 [, , ]
 [zk: 192.168.1.21:(CONNECTED) ]

  说明:zookeeper集群建好之后,通过“ls /”出来的只有zookeeper,连接kafka使用后,/ 下面多了不少东西,其中通过查看/brokers/ids可以

     发现已经检查到了已经安装的三台kafka的broker.id[1,2,3]。

 

 具体Kafka常见操作见下一篇kafka命令行常见使用 

结束.

 
 
 
 
 
 
 
 
 
 

centos7下kafka集群安装部署的更多相关文章

  1. centos7下zookeeper集群安装部署

    应用场景:ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件. 它是一个为分布式应用提供一致性服务的软 ...

  2. Centos7.4 kafka集群安装与kafka-eagle1.3.9的安装

    Centos7.4 kafka集群安装与kafka-eagle1.3.9的安装 集群规划: hostname Zookeeper Kafka kafka-eagle kafka01 √ √ √ kaf ...

  3. kafka集群安装部署

    kafka集群安装 使用的版本 系统:centos6.5 centos6.7 jdk:1.7.0_79 zookeeper:3.4.9 kafka:2.10-0.10.1.0 一.环境准备[只列,不具 ...

  4. Kafka集群安装部署、Kafka生产者、Kafka消费者

    Storm上游数据源之Kakfa 目标: 理解Storm消费的数据来源.理解JMS规范.理解Kafka核心组件.掌握Kakfa生产者API.掌握Kafka消费者API.对流式计算的生态环境有深入的了解 ...

  5. Linux 下Redis集群安装部署及使用详解(在线和离线两种安装+相关错误解决方案)

    一.应用场景介绍 本文主要是介绍Redis集群在Linux环境下的安装讲解,其中主要包括在联网的Linux环境和脱机的Linux环境下是如何安装的.因为大多数时候,公司的生产环境是在内网环境下,无外网 ...

  6. Kafka 集群安装部署

    2.1 安装部署 2.1.1 集群规划 192.168.1.102 192.168.1.103 192.168.1.104 zookeeper zookeeper zookeeper kafka ka ...

  7. centos7:Kafka集群安装

    解压文件到安装目录 tar -zxvf kafka_2.10-0.10.2.1.tgz 1.进入目录 cd kafka_2.10-0.10.2.1 mkdir logs cd config cp se ...

  8. Elasticsearch学习总结 (Centos7下Elasticsearch集群部署记录)

    一.  ElasticSearch简单介绍 ElasticSearch是一个基于Lucene的搜索服务器.它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口.Elasticse ...

  9. 原创:centos7.1下 ZooKeeper 集群安装配置+Python实战范例

    centos7.1下 ZooKeeper 集群安装配置+Python实战范例 下载:http://apache.fayea.com/zookeeper/zookeeper-3.4.9/zookeepe ...

随机推荐

  1. 便捷的ajax请求

    为什么要做这个呢?如果后端给的数据不单有JSON字符串,还有对象呢?这个时候我们就要每个都处理(JSON.parse).万一后端又改了,所有都是对象呢?如此一来我们就需要对我们的ajax进行封装. 这 ...

  2. MySQL5.5 安装配置方法教程

    MySQL下载地址:http://dev.mysql.com/downloads/installer/ 1.首先进入的是安装引导界面 2.然后进入的是类型选择界面,这里有3个类型:Typical(典型 ...

  3. 你不知道的JavaScript——第一章:作用域是什么?

    编译原理 JavaScript事实上是一门编译语言,但与传统的编译语言不同,它不是提前编译的,编译结果也不能在分布式系统中进行移植. 任何JavaScript代码片段在执行前都要进行编译(通常就在执行 ...

  4. 动态渲染页面爬取(Python 网络爬虫) ---Selenium的使用

    Selenium 的使用 Selenium 是一个自动化测试工具,利用它可以驱动浏览器执行特定的动作,如点击.下拉等操作,同时还可以获取浏览器当前呈现的页面的源代码,做到可见即可爬.对于一些JavaS ...

  5. 安装splash

    参考: https://blog.csdn.net/qq_41020281/article/details/82599075

  6. springboot的几种启动方式

    一:IDE 运行Application这个类的main方法 二:在springboot的应用的根目录下运行mvn spring-boot:run 三:使用mvn install 生成jar后运行 先到 ...

  7. 如何使用 Yum Repository 安装指定版本的 MySQL

    自从从使用 debian 系的 apt-get 转到使用 yum 工具之后一直不是很习惯,也没有去看过很多工具包安装的时候到底影响到了哪些文件等.这次借这次社区版 MySQL 安装来一并梳理一下. 首 ...

  8. python设计模式第十天【观察者模式】

    1.应用场景 (1)监听事件驱动程序中的外部事件 (2)监听某个对象的状态变化 (3)发布-订阅模型中,消息出现时通知邮件列表中的订阅者 2. 观察者模式UML图 3. 代码实现: #!/usr/bi ...

  9. Java8 flatMap的sample

    外国人写得, 很不错 http://www.java67.com/2016/03/how-to-use-flatmap-in-java-8-stream.html package test; impo ...

  10. css繼承

    概念:就是上級設置了css屬性,下級默認有同樣的樣式,如果下級需要不一樣的樣式,那麼就需要單獨對下級設置. 範圍: font-family:字體 font-weight:粗細 font-size:尺寸 ...