配置文件在config/server.properties

下面的一些配置可能是你需要进行修改的。

这里为官方提供配置文件解释:https://kafka.apache.org/08/configuration.html

字段名 注释 备注 推荐配置(如留空,则选用默认配置则可)

broker.id

整数,建议根据ip区分

 

推荐利用ip如:192.168.1.1;

则利用ip末位作为id;

方便对应ip寻找broker

log.dirs

kafka存放消息文件的路径,

默认/tmp/kafka-logs  

port

broker用于接收producer消息的端口

默认9092  

zookeeper.connnect

zookeeper连接

格式为 ip1:port,ip2:port,ip3:port  

message.max.bytes

单条消息的最大长度

   
num.recovery.threads.per.data.dir 每个数据目录用来日志恢复的线程数目    
socket.send.buffer.bytes 通信发送缓存空间大小 默认102400  
socket.receive.buffer.bytes 通信接收缓存空间大小 默认102400  
socket.request.max.bytes 通信请求最大接收限制,The maximum request size the server will allow. This prevents the server from running out of memory and should be smaller than the Java heap size. 存在OOM(内存溢出)风险  推荐小于zookeeper 的heapsize

num.network.threads

broker用于处理网络请求的线程数

如不配置默认为3,server.properties默认是2  

num.io.threads

broker用于执行网络请求的IO线程数

如不配置默认为8,server.properties默认是2可适当增大 16

queued.max.requests

排队等候IO线程执行的requests

默认为500 1024

host.name

broker的hostname

默认null,建议写主机的ip,不然消费端不配置hosts会有麻烦  

num.partitions

topic的默认分区数

默认1 16

log.retention.hours

消息被删除前保存多少小时

默认1周168小时  
log.flush.interval.messages

log文件“sync”到磁盘之前累积的消息条数。

因为磁盘IO操作是一个慢操作,但又是一个“数据可靠性”的必要手段,所以检查是否需要固化到硬盘的时间间隔。

需要在“数据可靠性”与“性能”之间做必要的权衡,

如果此值过大,将会导致每次“发sync”的时间过长(IO阻塞),

如果此值过小,将会导致“fsync”的时间较长(IO阻塞),

如果此值过小,将会导致”发sync“的次数较多,这也就意味着整体的client请求有一定的延迟,物理server故障,将会导致没有fsync的消息丢失。

   
log.flush.scheduler.interval.ms 检查是否需要fsync的时间间隔    
log.segment.bytes kafka中log日志是分成一块块存储的,此配置是指log日志划分成块的大小    
log.retention.check.interval.ms 检查日志分段文件的间隔时间,以确定是否文件属性是否到达删除要求。    

default.replication.factor

消息备份数目

默认1不做复制 3

num.replica.fetchers

用于复制leader消息到follower的IO线程数

默认1  

启动配置文件

对应目录bin/kafka-server-start.sh 脚本

修改 KAFKA_HEAP_OPTS 处 -Xmx 和 -Xms 的值

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
export KAFKA_HEAP_OPTS="-Xmx2.5G -Xms2.5G"
fi

kafka配置简要描述的更多相关文章

  1. 简要描述如何结合struts、hibernate、spring开发Web应用?

    简要描述如何结合struts.hibernate.spring开发Web应用? 解答:Struts可以将jsp页面的表单关联起来,就是把JSP页面的表单数据封装成javaBean,这样的话,在acti ...

  2. Kafka配置信息

    Kafka配置信息 broker配置信息 属性 默认值 描述 broker.id 必填参数,broker的唯一标识 log.dirs /tmp/kafka-logs Kafka数据存放的目录.可以指定 ...

  3. STM32F4系统时钟配置及描述

    STM32F4系统时钟配置及描述 stm32f407时钟配置方法(感觉很好,分享一下) STM32F4_RCC系统时钟配置及描述 STM32F4时钟设置分析 stm32f4 - 时钟树分析配置

  4. Mac Java Idea 下面Git配置简要教程

    Mac Java Idea 配置简要教程(Sunplay) 1.找到git路径 终端输入:which git 2.在idea的设置git路径 3.测试Git的效果 测试Git成功的效果

  5. 前端 高级 (二十五)vue2.0项目实战一 配置简要说明、代码简要说明、Import/Export、轮播和列表例子

    一.启动服务自动打开浏览器运行 二.配置简要说明 1.node_modules 安装好的依赖文件,中间件等,所在位置 2.package.jason 配置当前项目要安装的中间件和依赖文件 { &quo ...

  6. kafka 配置启动

    Kafka配置(注意log.dirs不要配置在tmp目录下,因为该目录会被linux定时任务删除,会导致kafka崩溃)需要三个Kafka实例,分别安装在下面三个机器上:192.168.240.167 ...

  7. hadoop生态搭建(3节点)-08.kafka配置

    如果之前没有安装jdk和zookeeper,安装了的请直接跳过 # https://www.oracle.com/technetwork/java/javase/downloads/java-arch ...

  8. windows下kafka配置入门 示例

    实验平台与软件: 操作系统:windows7 32  位 java 开发包: jdk1.8.0_144 集群: zookeeper-3.3.6 消息队列: kafka_2.11-0.11.0.1 安装 ...

  9. kafka配置参数

    Kafka为broker,producer和consumer提供了很多的配置参数. 了解并理解这些配置参数对于我们使用kafka是非常重要的.本文列出了一些重要的配置参数. 官方的文档 Configu ...

随机推荐

  1. 转换es6

    { "presets": [["env", { "modules": false }],"stage-3"," ...

  2. Appium appium 安装不了

    npm --registry http://registry.cnpmjs.org install -g appium使用npm的国内镜像可以安装,速度很不错.以后不想输入ip的话可以输入以下命令:n ...

  3. RepeatMasker

    1.简介 RepeatMasker是一款基于Library-based,通过相似性比对来识别重复序列,可以屏蔽序列中转座子重复序列和低复杂度序列(默认将其替换成N).提供有在线服务.RepeatMas ...

  4. ssh架构之hibernate(五)hql语句狂练

    1.练习题 1.查询所有商品的名称[查询特定属性](只有一个参数的话可以使用List<String>接收数据)2.查询所有商品的名称和供应商[查询特定属性](多个参数可以使用List< ...

  5. js中基本事件的总结,onclick、onblur、onchange等

    js中的基本事件总结: 特定的场景下发生的一个动作:事件:事件=函数(),事件发生会触发函数执行. 属性 当以下情况发生时,出现此事件 FF N IE onabort 图像加载被中断 1 3 4 on ...

  6. U3D组件------CharacterController(角色控制器)

    角色控制器中有碰撞体和刚体的属性 Slope Limit:角色能爬的斜坡的坡度限制 Step Offset:角色走台阶的高度 Skin Width:当场景里面出现多个角色控制器的时候,两个对象在接触的 ...

  7. SQLdeveloper换成windows主题后不显示的情况

    这几天因为换电脑需要重新安装数据库, 因为换成了64位系统, 原先的oracle数据库也换成了64位, 但是plsql还是要用32位的, 经过深思熟虑也没装, 请教了一个同学改用oracle自带的sq ...

  8. const 全面理解

    问题1:const int a : 和  int  const  a :的区别 定义一个变量: 类型描述符 + 变量名 类型描述符包括类型修饰符和数据类型. 类型修饰符有:short  long  u ...

  9. MYSQL启用日志,和查看日志

    mysql有以下几种日志:     错误日志:     -log-err     查询日志:     -log     慢查询日志:   -log-slow-queries     更新日志:     ...

  10. java函数方法

    1.方法重载 (1)源代码 // MethodOverload.java // Using overloaded methods public class MethodOverload { publi ...