问题描述: kafka是之前早就搭建好的,新建的storm集群要消费kafka的主题,由于kafka中已经记录了很多消息,storm消费时从最开始消费问题解决: 下面是摘自官网的一段话:How KafkaSpout stores offsets of a Kafka topic and recovers in case of failuresAs shown in the above KafkaConfig properties, you can control from where in th
目录 说明 整体逻辑 offset建表语句 代码实现 说明 当前处理只实现手动维护offset到mysql,只能保证数据不丢失,可能会重复 要想实现精准一次性,还需要将数据提交和offset提交维护在一个事务中 官网说明 Your own data store For data stores that support transactions, saving offsets in the same transaction as the results can keep the two in sy