Scala调用Kafka的生产者和消费者Demo，以及一些配置参数整理

kafka简介

Kafka是apache开源的一款用Scala编写的消息队列中间件，具有高吞吐量，低延时等特性。

Kafka对消息保存时根据Topic进行归类，发送消息者称为Producer,消息接受者称为Consumer,此外kafka集群有多个kafka实例组成，每个实例(server)称为broker。

无论是kafka集群，还是producer和consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性。

kafka主要的组件介绍

Producer：消息生产者，就是向kafka broker发消息的客户端。

Consumer：消息消费者，向kafka broker取消息的客户端

Topic ：我们可以理解为一个队列，消息根据Topic进行归类。

Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。一个topic可以对应多个CG。topic的消息会复制（不是真的复制，是概念上的）到所有的CG，但每个partion只会把消息发给该CG中的一个consumer。如果需要实现广播，只要每个consumer有一个独立的CG就可以了。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic。

Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic。

kafka文件存储机制

topic中partition存储分布
partiton中文件存储方式
partiton中segment文件存储结构
在partition中通过offset查找message

代码模拟生产者消费者案例

pom.xml添加依赖

        <dependency>

            <groupId>org.apache.kafka</groupId>

            <artifactId>kafka_2.11</artifactId>

            <version>1.1.0</version>

        </dependency>

        <dependency>

            <groupId>org.apache.kafka</groupId>

            <artifactId>kafka-clients</artifactId>

            <version>1.1.0</version>

        </dependency>

生产者：

package com.linys.scala.KAFKA_producer

import java.util.Properties

import org.apache.kafka.clients.producer.{KafkaProducer, ProducerRecord, RecordMetadata}

/**

  * 实现producer

  */

object KafkaProducerDemo {

  def main(args: Array[String]): Unit = {

    val prop = new Properties

    // 指定请求的kafka集群列表

    prop.put("bootstrap.servers", "essum:9092")// 指定响应方式

    //prop.put("acks", "0")

    prop.put("acks", "all")

    // 请求失败重试次数

    //prop.put("retries", "3")

    // 指定key的序列化方式, key是用于存放数据对应的offset

    prop.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer")

    // 指定value的序列化方式

    prop.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer")

    // 配置超时时间

    prop.put("request.timeout.ms", "60000")

    //prop.put("batch.size", "16384")

    //prop.put("linger.ms", "1")

    //prop.put("buffer.memory", "33554432")

    // 得到生产者的实例

    val producer = new KafkaProducer[String, String](prop)

    // 模拟一些数据并发送给kafka

    for (i <- 1 to 100) {

      val msg = s"${i}: this is a linys ${i} kafka data"

      println("send -->" + msg)

      // 得到返回值

      val rmd: RecordMetadata = producer.send(new ProducerRecord[String, String]("linys", msg)).get()

      println(rmd.toString)

      Thread.sleep(500)

    }

    producer.close()

  }

}

消费者：

package com.linys.scala.KAFKA_consumer

import java.util.{Collections, Properties}

import org.apache.kafka.clients.consumer.{ConsumerRecords, KafkaConsumer}

/**

  * 实现consumer

  */

object KafkaConsumerDemo {

  def main(args: Array[String]): Unit = {

    // 配置信息

    val prop = new Properties

    prop.put("bootstrap.servers", "essum:9092")

    // 指定消费者组

    prop.put("group.id", "group01")

    // 指定消费位置: earliest/latest/none

    prop.put("auto.offset.reset", "earliest")

    // 指定消费的key的反序列化方式

    prop.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer")

    // 指定消费的value的反序列化方式

    prop.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer")

    prop.put("enable.auto.commit", "true")

    prop.put("session.timeout.ms", "30000")

    // 得到Consumer实例

    val kafkaConsumer = new KafkaConsumer[String, String](prop)

    // 首先需要订阅topic

    kafkaConsumer.subscribe(Collections.singletonList("linys"))

    // 开始消费数据

    while (true) {

      // 如果Kafak中没有消息，会隔timeout这个值读一次。比如上面代码设置了2秒，也是就2秒后会查一次。

      // 如果Kafka中还有消息没有消费的话，会马上去读，而不需要等待。

      val msgs: ConsumerRecords[String, String] = kafkaConsumer.poll(2000)

      // println(msgs.count())

      val it = msgs.iterator()

      while (it.hasNext) {

        val msg = it.next()

        println(s"partition: ${msg.partition()}, offset: ${msg.offset()}, key: ${msg.key()}, value: ${msg.value()}")

      }

    }

  }

}

执行输出：

生产者配置参数解释：

bootstrap.servers： kafka集群broker的地址
key.serializer：关键字的序列化方式
value.serializer：消息值的序列化方式
acks：指定必须要有多少个分区的副本接收到该消息，服务端才会向生产者发送响应，可选值为：0,1,2，…，all，如果设置为0，producter就只管发出不管kafka server有没有确认收到。设置all则表示kafka所有的分区副本全部确认接收到才返回。
buffer.memory：生产者的内存缓冲区大小。如果生产者发送消息的速度 > 消息发送到kafka的速度，那么消息就会在缓冲区堆积，导致缓冲区不足。这个时候，send()方法要么阻塞，要么抛出异常。
max.block.ms：表示send()方法在抛出异常之前可以阻塞多久的时间，默认是60s
compression.type：消息在发往kafka之前可以进行压缩处理，以此来降低存储开销和网络带宽。默认值是null，可选的压缩算法有snappy、gzip和lz4
retries：生产者向kafka发送消息可能会发生错误，有的是临时性的错误，比如网络突然阻塞了一会儿，有的不是临时的错误，比如“消息太大了”，对于出现的临时错误，可以通过重试机制来重新发送
retry.backoff.ms：每次重试之间间隔的时间，第一次失败了，那么休息一会再重试，休息多久，可以通过这个参数来调节
batch.size：生产者在发送消息时，可以将即将发往同一个分区的消息放在一个批次里，然后将这个批次整体进行发送，这样可以节约网络带宽，提升性能。该参数就是用来规约一个批次的大小的。但是生产者并不是说要等到一个批次装满之后，才会发送，不是这样的，有时候半满，甚至只有一个消息的时候，也可能会发送，具体怎么选择，我们不知道，但是不是说非要等装满才发。因此，如果把该参数调的比较大的话，是不会造成消息发送延迟的，但是会占用比较大的内存。但是如果设置的太小，会造成消息发送次数增加，会有额外的IO开销
linger.ms：生产者在发送一个批次之前，可以适当的等一小会，这样可以让更多的消息加入到该批次。这样会造成延时增加，但是降低了IO开销，增加了吞吐量
client.id：服务器用来标志消息的来源，是一个任意的字符串
max.in.flight.requests.per.connection：一个消息发送给kafka集群，在收到服务端的响应之前的这段时间里，生产者还可以发n-1个消息。这个参数配置retries，可以保证消息的顺序，后面会介绍
request.timeout.ms：生产者在发送消息之后，到收到服务端响应时，等待的时间限制
max.request.size：生产者发送消息的大小。可以是一个消息的大小，也可以发送的一个批次的消息大小
receive.buffer.bytes和send.buffer.bytes：tcp socket接收和发送消息的缓冲区大小，其实指的就是ByteBuffer的大小

消费者配置参数解释：

groupid：一个字符串用来指示一组consumer所在的组群。实现同一个topic可由不同的组群消费

auto.offset.reset：可选三个参数

earliest ---当各分区下有已提交的offset时，从提交的offset开始消费；无提交的offset时，从头开始消费
latest---当各分区下有已提交的offset时，从提交的offset开始消费；无提交的offset时，消费新产生的该分区下的数据
none---topic各分区都存在已提交的offset时，从offset后开始消费；只要有一个分区不存在已提交的offset，则抛出异常

socket.timeout.ms：默认值：3000，socket超时时间。

socket.buffersize： 默认值：64*1024，socket receive buffer。

fetch.size： 默认值：300 * 1024，控制在一个请求中获取的消息的字节数。这个参数在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代。

backoff.increment.ms：默认值：1000，这个参数避免在没有新数据的情况下重复频繁的拉数据。如果拉到空数据，则多推后这个时间。

queued.max.message.chunks：默认值：2，consumer内部缓存拉回来的消息到一个队列中。这个值控制这个队列的大小。

auto.commit.enable：默认值：true，如果true,consumer定期地往zookeeper写入每个分区的offset。

auto.commit.interval.ms：默认值：10000，往zookeeper上写offset的频率。

auto.offset.reset：默认值：largest，如果offset出了返回，则 smallest: 自动设置reset到最小的offset. largest : 自动设置offset到最大的offset. 其它值不允许，会抛出异常。

consumer.timeout.ms：默认值：-1，默认-1,consumer在没有新消息时无限期的block。如果设置一个正值，一个超时异常会抛出。

rebalance.retries.max：默认值：4，rebalance时的最大尝试次数。

max.poll.interval.ms：拉取的最大时间间隔，如果你一次拉取的比较多，建议加大这个值，长时间没有调用poll，且间隔超过这个值时，就会认为这个consumer失败了

max.poll.records：默认值：500，Consumer每次调用poll()时取到的records的最大数。