Kafka 配置参数汇总及相关说明
本文列出了一些重要的配置参数。
name | 默认值 | 描述 |
brokerid
|
none
|
每一个boker都有一个唯一的id作为它们的名字。 这就允许boker切换到别的主机/端口上, consumer依然知道
|
enable.zookeeper
|
true
|
允许注册到zookeeper
|
log.flush.interval.messages
|
Long.MaxValue
|
在数据被写入到硬盘和消费者可用前最大累积的消息的数量
|
log.flush.interval.ms
|
Long.MaxValue
|
在数据被写入到硬盘前的最大时间
|
log.flush.scheduler.interval.ms
|
Long.MaxValue
|
检查数据是否要写入到硬盘的时间间隔。
|
log.retention.hours
|
168
|
控制一个log保留多长个小时
|
log.retention.bytes
|
-1
|
控制log文件最大尺寸
|
log.cleaner.enable
|
false
|
是否log cleaning
|
log.cleanup.policy
|
delete
|
delete还是compat. 其它控制参数还包括log.cleaner.threads,log.cleaner.io.max.bytes.per.second,log.cleaner.dedupe.buffer.size,log.cleaner.io.buffer.size,log.cleaner.io.buffer.load.factor,log.cleaner.backoff.ms,log.cleaner.min.cleanable.ratio,log.cleaner.delete.retention.ms
|
log.dir
|
/tmp/kafka-logs
|
指定log文件的根目录
|
log.segment.bytes
|
110241024*1024
|
单一的log segment文件大小
|
log.roll.hours
|
24 * 7
|
开始一个新的log文件片段的最大时间
|
message.max.bytes
|
1000000 + MessageSet.LogOverhead
|
一个socket 请求的最大字节数
|
num.network.threads
|
3
|
处理网络请求的线程数
|
num.io.threads
|
8
|
处理IO的线程数
|
background.threads
|
10
|
后台线程序
|
num.partitions
|
1
|
默认分区数
|
socket.send.buffer.bytes
|
102400
|
socket SO_SNDBUFF参数
|
socket.receive.buffer.bytes
|
102400
|
socket SO_RCVBUFF参数
|
zookeeper.connect
|
localhost:2182/kafka
|
指定zookeeper连接字符串, 格式如hostname:port/chroot。chroot是一个namespace
|
zookeeper.connection.timeout.ms
|
6000
|
指定客户端连接zookeeper的最大超时时间
|
zookeeper.session.timeout.ms
|
6000
|
连接zk的session超时时间
|
zookeeper.sync.time.ms
|
2000
|
zk follower落后于zk leader的最长时间
|
更多的配置请参考 kafka.consumer.ConsumerConfig
name
|
默认值
|
描述
|
groupid
|
groupid
|
一个字符串用来指示一组consumer所在的组
|
socket.timeout.ms
|
30000
|
socket超时时间
|
socket.buffersize
|
64*1024
|
socket receive buffer
|
fetch.size
|
300 * 1024
|
控制在一个请求中获取的消息的字节数。 这个参数在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代
|
backoff.increment.ms
|
1000
|
这个参数避免在没有新数据的情况下重复频繁的拉数据。 如果拉到空数据,则多推后这个时间
|
queued.max.message.chunks
|
2
|
high level consumer内部缓存拉回来的消息到一个队列中。 这个值控制这个队列的大小
|
auto.commit.enable
|
true
|
如果true,consumer定期地往zookeeper写入每个分区的offset
|
auto.commit.interval.ms
|
10000
|
往zookeeper上写offset的频率
|
auto.offset.reset
|
largest
|
如果offset出了返回,则 smallest: 自动设置reset到最小的offset. largest : 自动设置offset到最大的offset. 其它值不允许,会抛出异常.
|
consumer.timeout.ms
|
-1
|
默认-1,consumer在没有新消息时无限期的block。如果设置一个正值, 一个超时异常会抛出
|
rebalance.retries.max
|
4
|
rebalance时的最大尝试次数
|
更多的配置请参考 kafka.producer.ProducerConfig
name
|
默认值
|
描述
|
serializer.class
|
kafka.serializer.DefaultEncoder
|
必须实现kafka.serializer.Encoder接口,将T类型的对象encode成kafka message
|
key.serializer.class
|
serializer.class
|
key对象的serializer类
|
partitioner.class
|
kafka.producer.DefaultPartitioner
|
必须实现kafka.producer.Partitioner,根据Key提供一个分区策略
|
producer.type
|
sync
|
指定消息发送是同步还是异步。异步asyc成批发送用kafka.producer.AyncProducer, 同步sync用kafka.producer.SyncProducer
|
metadata.broker.list
|
boker list
|
使用这个参数传入boker和分区的静态信息,如host1:port1,host2:port2, 这个可以是全部boker的一部分
|
compression.codec
|
NoCompressionCodec
|
消息压缩,默认不压缩
|
compressed.topics
|
null
|
在设置了压缩的情况下,可以指定特定的topic压缩,为指定则全部压缩
|
message.send.max.retries
|
3
|
消息发送最大尝试次数
|
retry.backoff.ms
|
300
|
每次尝试增加的额外的间隔时间
|
topic.metadata.refresh.interval.ms
|
600000
|
定期的获取元数据的时间。当分区丢失,leader不可用时producer也会主动获取元数据,如果为0,则每次发送完消息就获取元数据,不推荐。如果为负值,则只有在失败的情况下获取元数据。
|
queue.buffering.max.ms
|
5000
|
在producer queue的缓存的数据最大时间,仅仅for asyc
|
queue.buffering.max.message
|
10000
|
producer 缓存的消息的最大数量,仅仅for asyc
|
queue.enqueue.timeout.ms
|
-1
|
0当queue满时丢掉,负值是queue满时block,正值是queue满时block相应的时间,仅仅for asyc
|
batch.num.messages
|
200
|
一批消息的数量,仅仅for asyc
|
request.required.acks
|
0
|
0表示producer毋须等待leader的确认,1代表需要leader确认写入它的本地log并立即确认,-1代表所有的备份都完成后确认。 仅仅for sync
|
request.timeout.ms
|
10000
|
确认超时时间
|
默认的这个Encoder事实上不做任何处理,接收到什么byte[]就返回什么byte[]:
- class DefaultEncoder(props: VerifiableProperties = null) extends Encoder[Array[Byte]] {
- override def toBytes(value: Array[Byte]): Array[Byte] = value
- }
复制代码
- class NullEncoder[T](props: VerifiableProperties = null) extends Encoder[T] {
- override def toBytes(value: T): Array[Byte] = null
- }
复制代码
- class StringEncoder(props: VerifiableProperties = null) extends Encoder[String] {
- val encoding =
- if(props == null)
- "UTF8"
- else
- props.getString("serializer.encoding", "UTF8")
- override def toBytes(s: String): Array[Byte] =
- if(s == null)
- null
- else
- s.getBytes(encoding)
- }
复制代码
默认的分区函数为DefaultPartitioner,它根据key的hashcode与分区数取余,得到相应的分区。
- class DefaultPartitioner(props: VerifiableProperties = null) extends Partitioner {
- private val random = new java.util.Random
- def partition(key: Any, numPartitions: Int): Int = {
- Utils.abs(key.hashCode) % numPartitions
- }
- }
复制代码
但是如果key为null时会发送到哪个分区?在一定时间内往一个特定的分区发送,超过一定时间又会随机选择一个,请参考key为null时Kafka会将消息发送给哪个分区?.所以推荐你发送Kafka消息时总是指定一个key,以便消息能均匀的分到每个分区上。
转载:http://www.aboutyun.com/thread-12211-1-1.html
Kafka 配置参数汇总及相关说明的更多相关文章
- kafka配置参数
Kafka为broker,producer和consumer提供了很多的配置参数. 了解并理解这些配置参数对于我们使用kafka是非常重要的.本文列出了一些重要的配置参数. 官方的文档 Configu ...
- highcharts图表配置参数汇总
一.chart的部分相关属性说明 renderTo: 'container', //图表的页面显示容器(也就是要显示到的div) chart.events.addSeries:添加数列 ...
- hadoop YARN配置参数剖析—MapReduce相关参数
MapReduce相关配置参数分为两部分,分别是JobHistory Server和应用程序参数,Job History可运行在一个独立节点上,而应用程序参数则可存放在mapred-site.xml中 ...
- kafka配置参数详解【收藏】
3.1 Broker Configs 基本配置如下: -broker.id -log.dirs -zookeeper.connect Topic-level配置以及其默认值将在下面讨论. ...
- kafka配置参数详解
Broker Configs Property Default Description broker.id 每个broker都可以用一个唯一的非负整数id进行标识:这个id可以作为broker的 ...
- Kafka 配置参数
Broker Configs Property Default Description broker.id 每个broker都可以用一个唯一的非负整数id进行标识:这个id可以作为broker的 ...
- Redis配置参数汇总
==配置文件全解=== ==基本配置daemonize no 是否以后台进程启动databases 16 创建database的数量(默认选中的是database 0) save 900 1 #刷新快 ...
- Hadoop YARN配置参数剖析—RM与NM相关参数
注意,配置这些参数前,应充分理解这几个参数的含义,以防止误配给集群带来的隐患.另外,这些参数均需要在yarn-site.xml中配置. 1. ResourceManager相关配置参数 (1) ...
- Spring Kafka中关于Kafka的配置参数
#################consumer的配置参数(开始)################# #如果'enable.auto.commit'为true,则消费者偏移自动提交给Kafka的频率 ...
随机推荐
- 50深入理解C指针之---指针与别名
一.size_t:用于安全表示长度,所有平台和系统都会解析成自己对应的长度 1.定义:size_t类型表示C中任何对象所能表示的最大长度,是个无符号整数:常常定义在stdio.h或stdlib.h中 ...
- Codeforces Gym101572 J.Judging Moose (2017-2018 ACM-ICPC Nordic Collegiate Programming Contest (NCPC 2017))
Problem J Judging Moose 这个题是这里面最简单的一个题... 代码: 1 //J 2 #include <stdio.h> 3 #include <math. ...
- git history 记录(上传到 issu-170 )
一.上传到gitlab 本地issu-170落后git很多,发生冲突的要手动修改. 2000 cd robot_demo_0226_ws/ 2001 ls 2002 cd IGV01-SW-170 2 ...
- Jenkins解决Host key verification failed
1.在没有做任何操作时,是这样报错的 a.在任务中配置远程执行命令 rsync -raz --delete --progress target/testweb-v1.1.jar root@10.0 ...
- 基于python脚本的对拍debug
首先,这是python脚本 import os; for i in range(0,20): print ("Case:"+str(i)); print ("random ...
- 利用注解和反射,将Bean枚举字段的值填入相应的字段中,并转化为fastjson返回前台
需求:需要将枚举类型的字段例如enable(是否启用)转化为enable:1,enableName:是.这种形式返回给前台. 思路:在bean字段上加上枚举类型的注解,通过字段的值和枚举类反射获取枚举 ...
- Java中将List转成逗号数组的方案
说明:逗号字符串转成数组或者List都是可以的,反过来依然可行:但是如果是List<String>转List<Integer>,基本误解,在Java 7只能for循环,如果在J ...
- Class definition
Prerequisite Articles (None) Related Articles Category Accessor method A class definition is the spe ...
- 精简版的MySQL制作步骤
1.删除所有的目录,只保留 datasharebin 2.删除BIN下面除以下三个文件之外的所有文件: libmysql.dll(MYSQL5中的文件,在MYSQL5.5中不存在)mysqladmin ...
- Leetcode 232 Implement Queue using Stacks 和 231 Power of Two
1. 232 Implement Queue using Stacks 1.1 问题描写叙述 使用栈模拟实现队列.模拟实现例如以下操作: push(x). 将元素x放入队尾. pop(). 移除队首元 ...