Kafka偏移提交
发布时间
阅读量:
阅读量
Kafka - 偏移量提交
一、偏移量提交
用户主要通过向特定主题发送消息至变量_consumer_offset来提交偏移量信息;每个分区的消息中都包含了相应的偏移数据。
当消费者持续正常运行时
但是这样可能会出现如下的问题。
1.1 提交偏移量小于客户端处理的偏移量

当提交请求的数据偏移量比客户端处理的消息最后一个偏移量小时,则会有来自这两个偏移量之间消息的数据会被重复处理。
1.2 提交偏移量大于客户端处理的偏移量

如果提交的消息偏移码超越客户端最后处理的消息所对应的偏移码,则在这两个值之间存在的信息将无法收到
由此可见,在处理偏移量时会涉及到客户端对数据进行处理的问题。KafkaConsumer API 支持多种提交方法。
二、自动提交
自动提交是 Ka
全部评论 (0)
还没有任何评论哟~
