baby sword‘s blog baby sword‘s blog
首页
  • java基础
  • java进阶
大数据
  • mysql

    • mysql索引
    • mysql日志
  • redis

    • 单机下的redis
    • 集群下的redis
  • Spring
  • springboot
  • RPC
  • netty
  • mybatis
  • maven
  • 消息队列
  • kafka
  • zookeeper
  • rocketmq
  • 七大设计原则
  • 创建型模式
  • 结构型模式
  • 行为型模式
  • SpringCloud

    • eureka
  • SpringCloud Alibaba

    • nacos
  • 计算机网络
  • 操作系统
  • 算法
  • 个人项目
  • 个人面试面经
  • 八股记忆
  • 工作积累
  • 逻辑题
  • 面试

    • 百度后端实习二面
GitHub (opens new window)

zhengjian

不敢承担失去的风险,是不可能抓住梦想的
首页
  • java基础
  • java进阶
大数据
  • mysql

    • mysql索引
    • mysql日志
  • redis

    • 单机下的redis
    • 集群下的redis
  • Spring
  • springboot
  • RPC
  • netty
  • mybatis
  • maven
  • 消息队列
  • kafka
  • zookeeper
  • rocketmq
  • 七大设计原则
  • 创建型模式
  • 结构型模式
  • 行为型模式
  • SpringCloud

    • eureka
  • SpringCloud Alibaba

    • nacos
  • 计算机网络
  • 操作系统
  • 算法
  • 个人项目
  • 个人面试面经
  • 八股记忆
  • 工作积累
  • 逻辑题
  • 面试

    • 百度后端实习二面
GitHub (opens new window)
  • 消息队列

    • 消息队列的特性
    • 消息队列存在的问题
    • MQ与kafka有什么区别
    • 消息投递语义
      • 1. 生产者
        • 如何保证消息最多投递一次
        • 如何保证消息至少投递一次
        • 如何保证消息恰好投递一次
      • 2.消费者
        • 如果保证消息最多消费一次
        • 如果保证消息至少消费一次
        • 如果保证消息只消费一次
  • kafka

  • zookeeper

  • rocketMq

  • 中间件
  • 消息队列
xugaoyi
2023-06-09
目录

消息投递语义

投递语义,即生产者投递到服务端

  • 如何保证消息最多投递一次
  • 如何保证消息至少投递一次
  • 如何保证消息恰好投递一次

消费语义,即消费者消费服务端

  • 如何保证消息最多消费一次
  • 如何保证消息至少消费一次
  • 如何保证消息恰好消费一次

以下对各种语义,用kafka进行讲解:

# 1. 生产者

# 如何保证消息最多投递一次

消息最多投递一次,即消息要么不投递,要么只投递成功一次

简单,就是我已经投出去了,收没收到不管了,会存在消息丢失。 我们在初始化Producer时可以通过配置request.required.acks不同的值,来实现不同的发送模式。 这里将request.required.acks设为0,意思就是Producer不等待Leader确认,只管发出即可;最可能丢失消息。如果丢了消息,就是投递0次。如果没丢,就是投递1次。符合最多投递一次的含义。

# 如何保证消息至少投递一次

消息要么重复发送,要么只发送成功一次

这里将request.required.acks设为-1。Producer往kafka的Leader(主)节点发送消息后,会等follower(从)节点同步完数据以后,再给Producer返回ACK确认消息。 但是这里是有几率出现重复消费的问题的。 例如,kafka保存消息后,发送ACK前宕机,Producer认为消息未发送成功并重试,造成数据重复! 那么,在这种情况下,就会出现大于1次的投递情况,符合至少投递一次的含义。

# 如何保证消息恰好投递一次

消息发送确保只成功发送一次

kafka在0.11.0.0版本之后支持恰好投递一次的语义。 我们将enable.idempotence设置为ture,此时就会默认把request.required.acks设为-1,可以达到恰好投递一次的语义。 如何做到的? 为了实现Producer的幂等语义,Kafka引入了Producer ID(即PID)和Sequence Number。 kafka为每个Producer分配一个pid,作为该Producer的唯一标识。 Producer会为每一个<topic,partition>维护一个单调递增的seq。 类似的,Message Queue也会为每个<pid,topic,partition>记录下最新的seq。 当req_seq == message_seq+1时,Message Queue才会接受该消息。因为:

  • (1)消息的seq比Message Queue的seq大一以上,说明中间有数据还没写入,即乱序了。
  • (2)消息的seq比Message Queue的seq小,那么说明该消息已被保存。

# 2.消费者

# 如果保证消息最多消费一次

消费者要么消费,要么只消费一次

其实这里根消费者的位移提交机制有关。

按照下面的处理方式

consumer.poll();
consumer.commit();
processMsg(msg);
1
2
3

消费者如果在处理消息前宕机,那么下次消费时将不会再处理消息,消息丢失。即最多就消费了一次。

# 如果保证消息至少消费一次

消费者要么消费一次,要么多次消费

consumer.poll();
processMsg(msg);
consumer.commit();
1
2
3

消费者如果在提交位移前宕机,那么下次消费时将再次处理,消息重复消费。即消息进行了多次消费。

# 如果保证消息只消费一次

https://juejin.cn/post/7002169135908012062#heading-8

思路:至少一次 + 幂等性(为每条消息分配唯一id,并在第三方缓存中进行幂等性去重)

https://www.yuque.com/u1047901/hs89ud/aagb2utmhitxtccv

编辑 (opens new window)
上次更新: 2024/02/22, 14:03:19
MQ与kafka有什么区别
如何安装kafka

← MQ与kafka有什么区别 如何安装kafka→

最近更新
01
spark基础
02-22
02
mysql读写分离和分库分表
02-22
03
数据库迁移
02-22
更多文章>
Theme by Vdoing | Copyright © 2019-2024 Evan Xu | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式