kafka配置简要描述
配置文件在config/server.properties
下面的一些配置可能是你需要进行修改的。
这里为官方提供配置文件解释:https://kafka.apache.org/08/configuration.html
字段名 | 注释 | 备注 | 推荐配置(如留空,则选用默认配置则可) |
broker.id |
整数,建议根据ip区分 |
推荐利用ip如:192.168.1.1; 则利用ip末位作为id; 方便对应ip寻找broker |
|
log.dirs |
kafka存放消息文件的路径, |
默认/tmp/kafka-logs | |
port |
broker用于接收producer消息的端口 |
默认9092 | |
zookeeper.connnect |
zookeeper连接 |
格式为 ip1:port,ip2:port,ip3:port | |
message.max.bytes |
单条消息的最大长度 |
||
num.recovery.threads.per.data.dir | 每个数据目录用来日志恢复的线程数目 | ||
socket.send.buffer.bytes | 通信发送缓存空间大小 | 默认102400 | |
socket.receive.buffer.bytes | 通信接收缓存空间大小 | 默认102400 | |
socket.request.max.bytes | 通信请求最大接收限制,The maximum request size the server will allow. This prevents the server from running out of memory and should be smaller than the Java heap size. | 存在OOM(内存溢出)风险 | 推荐小于zookeeper 的heapsize |
num.network.threads |
broker用于处理网络请求的线程数 |
如不配置默认为3,server.properties默认是2 | |
num.io.threads |
broker用于执行网络请求的IO线程数 |
如不配置默认为8,server.properties默认是2可适当增大 | 16 |
queued.max.requests |
排队等候IO线程执行的requests |
默认为500 | 1024 |
host.name |
broker的hostname |
默认null,建议写主机的ip,不然消费端不配置hosts会有麻烦 | |
num.partitions |
topic的默认分区数 |
默认1 | 16 |
log.retention.hours |
消息被删除前保存多少小时 |
默认1周168小时 | |
log.flush.interval.messages |
log文件“sync”到磁盘之前累积的消息条数。 因为磁盘IO操作是一个慢操作,但又是一个“数据可靠性”的必要手段,所以检查是否需要固化到硬盘的时间间隔。 需要在“数据可靠性”与“性能”之间做必要的权衡, 如果此值过大,将会导致每次“发sync”的时间过长(IO阻塞), 如果此值过小,将会导致“fsync”的时间较长(IO阻塞), 如果此值过小,将会导致”发sync“的次数较多,这也就意味着整体的client请求有一定的延迟,物理server故障,将会导致没有fsync的消息丢失。 |
||
log.flush.scheduler.interval.ms | 检查是否需要fsync的时间间隔 | ||
log.segment.bytes | kafka中log日志是分成一块块存储的,此配置是指log日志划分成块的大小 | ||
log.retention.check.interval.ms | 检查日志分段文件的间隔时间,以确定是否文件属性是否到达删除要求。 | ||
default.replication.factor |
消息备份数目 |
默认1不做复制 | 3 |
num.replica.fetchers |
用于复制leader消息到follower的IO线程数 |
默认1 |
启动配置文件
对应目录bin/kafka-server-start.sh 脚本
修改 KAFKA_HEAP_OPTS 处 -Xmx 和 -Xms 的值
if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
export KAFKA_HEAP_OPTS="-Xmx2.5G -Xms2.5G"
fi
kafka配置简要描述的更多相关文章
- 简要描述如何结合struts、hibernate、spring开发Web应用?
简要描述如何结合struts.hibernate.spring开发Web应用? 解答:Struts可以将jsp页面的表单关联起来,就是把JSP页面的表单数据封装成javaBean,这样的话,在acti ...
- Kafka配置信息
Kafka配置信息 broker配置信息 属性 默认值 描述 broker.id 必填参数,broker的唯一标识 log.dirs /tmp/kafka-logs Kafka数据存放的目录.可以指定 ...
- STM32F4系统时钟配置及描述
STM32F4系统时钟配置及描述 stm32f407时钟配置方法(感觉很好,分享一下) STM32F4_RCC系统时钟配置及描述 STM32F4时钟设置分析 stm32f4 - 时钟树分析配置
- Mac Java Idea 下面Git配置简要教程
Mac Java Idea 配置简要教程(Sunplay) 1.找到git路径 终端输入:which git 2.在idea的设置git路径 3.测试Git的效果 测试Git成功的效果
- 前端 高级 (二十五)vue2.0项目实战一 配置简要说明、代码简要说明、Import/Export、轮播和列表例子
一.启动服务自动打开浏览器运行 二.配置简要说明 1.node_modules 安装好的依赖文件,中间件等,所在位置 2.package.jason 配置当前项目要安装的中间件和依赖文件 { &quo ...
- kafka 配置启动
Kafka配置(注意log.dirs不要配置在tmp目录下,因为该目录会被linux定时任务删除,会导致kafka崩溃)需要三个Kafka实例,分别安装在下面三个机器上:192.168.240.167 ...
- hadoop生态搭建(3节点)-08.kafka配置
如果之前没有安装jdk和zookeeper,安装了的请直接跳过 # https://www.oracle.com/technetwork/java/javase/downloads/java-arch ...
- windows下kafka配置入门 示例
实验平台与软件: 操作系统:windows7 32 位 java 开发包: jdk1.8.0_144 集群: zookeeper-3.3.6 消息队列: kafka_2.11-0.11.0.1 安装 ...
- kafka配置参数
Kafka为broker,producer和consumer提供了很多的配置参数. 了解并理解这些配置参数对于我们使用kafka是非常重要的.本文列出了一些重要的配置参数. 官方的文档 Configu ...
随机推荐
- 修改weblogic启动模式:client改为server
1.生产模式 -> 开发模式 Step 1:将domain下的 /weblogic/domain/app_domain/bin/setDomainEnv.sh文件的PRODUCTION_MODE ...
- Mysql 用户 创建与删除(基础1)
Mysql是最流行的关系型数据库管理系统之一,由瑞典MySQL AB公司开发,目前属于Oracle公司. MySQL是一种关联数据库管理系统,关联数据库将数据保存在不同的表中,而不是将所有数据放在一个 ...
- Java System
从jdk10中摘录自认为几个比较重要的方法 系统类包含几个有用的属性和方法.它不能被实例化. 系统类提供的工具包括标准输入.标准输出和错误输出流:对外部定义的属性和环境变量的访问:加载文件和库的方法: ...
- Java 中的锁
Java中的锁分类 在读很多并发文章中,会提及各种各样锁如公平锁,乐观锁等等,这篇文章介绍各种锁的分类.介绍的内容如下: 公平锁/非公平锁 可重入锁 独享锁/共享锁 互斥锁/读写锁 乐观锁/悲观锁 分 ...
- Win7下VB6.0不能加载mscomctl.ocx的解决办法
下载这个:http://pan.baidu.com/s/1sjJgrbJ 然后在命令框下注册这个组件: regsvr32 mscomctl.ocx 即可
- 最小生成树算法(krustra+prime)
给你一个图,求让图连通的边权和最小值 krustra算法是基于加边法,将所有边权排序,每次加一条边,将两个点放在同一个集合中.如果新加的点不在同一个集合中,就合并(并查集) 涉及到排序,可以用结构体存 ...
- Maximum Gap (ARRAY - SORT)
QUESTION Given an unsorted array, find the maximum difference between the successive elements in its ...
- http://www.bugku.com:Bugku——PHP伪协议+魔幻函数+序列化的综合应用(http://120.24.86.145:8006/test1/)
这一道题目,幸好俺有基础知识护体,不然还真干不掉. 首先,登录看题目,取消隐藏代码的注释.可知可输入三个参数txt.file和password并进行逻辑判断:应该让txt==‘welcom ...
- 吉哥系列故事——恨7不成妻(数位DP)
吉哥系列故事——恨7不成妻 http://acm.hdu.edu.cn/showproblem.php?pid=4507 Time Limit: 1000/500 MS (Java/Others) ...
- Java-分治算法
一.分治算法的原理 分治算法就是将一个规模为N的问题分解成K个规模较小的子问题,这些子问题相互独立且与原问题性质相同,求出子问题的解,就可以得出原问题的解 二.分治算法的伪代码实现 合并算法Merge ...