消息队列消息推送引擎流量控制设计

消息队列在分布式微服务架构中常用于服务解耦，在高吞吐应用中将任务异步化从而达到削峰平谷的作用。消息推送引擎存在于消息队列和消息处理服务之间，承担消息推送协议转换及推送消息到目标服务的任务。当前消息推送引擎存在两大问题：1、推送速率不能匹配下游服务处理消息速率，2、消息积压造成拥塞。当推送引擎推送消息速率大于下游服务处理消息的最大能力时，一方面会直接压垮下游应用，另一方面会造成消息积压导致推送引擎本身内存溢出而崩溃；当推送引擎推送消息小于下游服务处理消息的能力时，会加大消息流转的时延，不能满足低时延应用要求。本文提出一种基于背压策略，结合推送时延、带宽、内存三方指标动态调整推送速率的流量控制设计，可以做到通过下游服务处理消息速率反向调节推送消息的速率，在带宽、内存允许的情况下以最大能力将消息流转出，从而实现可靠的高吞吐低时延消息流转。