前几天有水友提问:
通过消息队列(MsgQueue,MQ)发送任务和消息,万一MQ重启了怎么办?能否保证MQ不丢消息?
今天就聊聊MQ的消息必达性架构与流程。
不丢消息,MQ架构设计的核心方向是什么?
MQ要想消息必达,架构上有两个核心设计点:
(1)消息落地;
(2)消息超时、重传、确认;
为了实现上述两个核心点,MQ架构如何?
上图是一个MQ的核心架构图,可以分为三大块:
(1)发送方 -> 左侧粉色部分;
(2)MQ核心集群 -> 中间蓝色部分;
(3)接收方 -> 右侧屎黄色部分;
粉色发送方又由两部分构成:
(1)业务调用方;
(2)MQ-client-sender;
其中后者向前者提供了两个核心API:
(1)SendMsg(bytes[] msg);
(2)SendCallback();
蓝色MQ核心集群又分为四个部分:
(1)MQ-server
(2)zk;
(3)db;
(4)管理后台web;
黄色接收方也由两部分构成:
(1)业务接收方;
(2)MQ-client-receiver;
其中后者向前者提供了两个核心API:
(1)RecvCallback(bytes[] msg);
(2)SendAck();
MQ是一个系统间解耦的利器,它能够很好的解除发布订阅者之间的耦合,它将上下游的消息投递解耦成两个部分,如架构图中的1箭头和2箭头:
箭头1:发送方将消息投递给MQ,上半场;
箭头2:MQ将消息投递给接收方,下半场;
MQ消息可靠投递核心流程如何?
MQ既然将消息投递拆成了上下半场,为了保证消息的可靠投递,上下半场都必须保证消息必达。
MQ消息投递上半场,MQ-client-sender到MQ-server流程见上图1-3:
(1)MQ-client将消息发送给MQ-server;
画外音:此时业务方调用API:SendMsg。
(2)MQ-server将消息落地,落地后即为发送成功;
(3)MQ-server将应答发送给MQ-client;
画外音:此时回调业务API:SendCallback。
MQ消息投递下半场,MQ-server到MQ-client-receiver流程见上图4-6:
(4)MQ-server将消息发送给MQ-client;
画外音:此时回调业务API:RecvCallback。
(5)MQ-client回复应答给MQ-server;
画外音:此时业务方主动调用API:SendAck。
(6)MQ-server收到ack,将之前已经落地的消息删除,完成消息的可靠投递;
如果消息丢了怎么办?
MQ消息投递的上下半场,都可以出现消息丢失,为了保证消息可达性,MQ需要进行超时和重传。
上半场如何实施超时与重传?
MQ上半场的1或者2或者3如果丢失或者超时,MQ-client-sender内的timer会重发消息
,直到期望收到3,如果重传N次后还未收到,则SendCallback回调发送失败,需要注意的是,这个过程中MQ-server可能会收到同一条消息的多次重发。
下半场如何实施超时与重传?
MQ下半场的4或者5或者6如果丢失或者超时,MQ-server内的timer会重发消息,直到收到5并且成功执行6,这个过程可能会重发很多次消息。
画外音:一般采用指数退避的策略,先隔x秒重发,2x秒重发,4x秒重发,以此类推。
需要注意的是,这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。
总结
MQ是系统之间的解耦利器,MQ为了保证消息必达,架构设计方向为:
(1)消息收到先落地;
(2)消息超时、重传、确认保证消息必达;
遗留问题:
上半场,MQ-server可能收到重复的消息;下半场,MQ-client-receiver,也就是消息接收方可能收到重复的消息,怎么办?
画外音:如何去重,如何幂等设计,听玄姐直播为你解答。
事件:《RocketMQ企业级应用及定制化开发实践》
人物:奈学教育CEO,玄姐
时间:6.4、6.5、6.6三天,20:00-22:00
画外音:每天两小时直播,免费,有没有诚意?
如何参加?
扫码加小助手,获取直播地址,送架构师成长地图
内容大纲如何?
(1)MQ企业级应用场景分析;
(2)常见MQ选型对比;
(3)MQ高可用及水平扩展架构;
(4)MQ存储原理深度剖析;
(5)MQ服务注册与服务发现深度剖析;
(6)MQ负载均衡架构深度剖析;
(7)MQ事务消息实现原理;
(8)MQ延时消息架构原理;
(9)RocketMQ定制化开发实践;
(10)作业题及讲解;
连续3天(6.4/6.5/6.6),每天2小时(20:00-22:00),玄姐免费直播,MQ,干货多多,阅读原文,获取直播地址,只能帮你到这里了,一起学习吧。