RocketMQ 5.0 vs 4.9.X 图解架构对比
本文作者:李伟,Apache RocketMQ Committer,RocketMQ Python客户端项目Owner ,Apache Doris Contributor,腾讯云数据库开发工程师。
01 RocketMQ 4.9.X架构
在4.9.X中每个组件和组件之间的通信简单说明如下:
| 组件和数据流 | 说明 |
|---|---|
| Namesrv | 无状态服务,保存Topic路由信息Topic路由=topic-queue-broker |
| Broker | 有状态服务,处理计算和存储。计算 = 生产者请求,消费者请求,管理请求,Broker系统服务(比如索引构建服务,消息过期服务)存储 = 消息存储,索引存储 |
| Broker -> Namesrv | Broker定期把Broker信息+当前Broker中的Topic信息上报Namesrv |
| 生产者 | 生产消息 |
| 生产者<-> Namesrv | 生产者从Namesrv获取Topic路由信息, 包含Broker IP |
| 生产者<-> Broker | 生产者通过Topic路由信息,把消息直接发送给Broker生产者定期和Broker心跳,上报当前生产者实例信息 |
| 消费者 | 消费消息 |
| 消费者<-> Namesrv | 消费者从Namesrv获取Topic路由信息, 包含Broker IP |
| 消费者 <-> Broker | 消费者通过Topic路由信息,从指定Broker中拉取消息消费消费者定期和Broker心跳,上报当前消费者实例信息 |
1、生产者通过Topic路由信息,把消息直接发送给Broker。
2、生产者定期和Broker心跳,上报当前生产者实例信息。
消费者消费消息消费者<-> Namesrv
1、消费者从Namesrv获取Topic路由信息, 包含
Broker IP消费者 <-> Broker 。
- 消费者通过Topic路由信息,从指定Broker中拉取消息消费。
- 消费者定期和Broker心跳,上报当前消费者实例信息。
02 RocketMQ 5.0.0 架构
在5.0.0 中每个组件和组件之间的通信简单说明如下:
| 组件和数据流 | 说明 |
|---|---|
| Namesrv | 无状态服务,保存Topic路由信息Topic路由=topic-queue-broker。在5.0.0时,Namesrv进程中可以嵌入Controller模块。若设置enableControllerInNamesrv=true,在Namesrv进程中嵌入启动一个Controller实例 |
| Broker | 有状态服务,处理计算和存储。计算 = 生产者请求,消费者请求,管理请求,Broker系统服务(比如索引构建服务,消息过期服务)存储 = 消息存储,索引存储在5.0.0时, Broker支持主从切换,Broker的角色包含:master,slave,learner。若设置asyncLearner=true,则Broker为learner,只同步数据, 不参与选举master |
| Broker -> Namesrv | Broker定期把Broker信息+当前Broker中的Topic信息上报Namesrv |
| Remoting生产者 | 生产消息 |
| Remoting生产者<-> Namesrv | 生产者从Namesrv获取Topic路由信息, 包含Broker IP |
| Remoting生产者<-> Broker | 产者通过Topic路由信息,把消息直接发送给Broker生产者定期和Broker心跳,上报当前生产者实例信息 |
| Remoting消费者 | 消费消息 |
| Remoting消费者<-> Namesrv | 消费者从Namesrv获取Topic路由信息, 包含Broker IP |
| Remoting消费者 <-> Broker | 消费者通过Topic路由信息,从指定Broker中拉取消息消费消费者定期和Broker心跳,上报当前消费者实例信息 |
| 5.0.0新增模块Controller(控制器) | 和Kafka Controller类似,在RocketMQ中负责Broker Master的选举和通知Broker |
| 5.0.0新增模块Broker <-> Controller | Broker定期把Broker信息上报ControllerBroker同步副本状态Controller选举新的Broker Master后,通知全部Broker |
| 5.0.0新增模块Proxy | 无状态服务,新客户端通过Grpc接口访问Proxy进行收发消息。社区已支持Remoting协议。Proxy中支持嵌入Broker。若设置proxyMode=LOCAL,则会在Proxy进程中启动一个Broker实例 |
| 5.0.0新增模块Proxy <-> Broker | Proxy通过Remoting协议和Broker通信,可以把Proxy当作一个Remoting的Client |
| 5.0.0新增模块新 Client | 新客户端,支持生产、消费、管理功能。目前支持Grpc协议 |
| 5.0.0新增模块新Client <-> Proxy | 新客户端访问Proxy进行收发消息,管理 |
1、生产者通过Topic路由信息,把消息直接发送给Broker。
2、生产者定期和Broker心跳,上报当前生产者实例信息。
Remoting消费者消费消息Remoting消费者<-> Namesrv
1、消费者从Namesrv获取Topic路由信息, 包含Broker IPRemoting消费者 <-> Broker 。
- 消费者通过Topic路由信息,从指定Broker中拉取消息消费。
- 消费者定期和Broker心跳,上报当前消费者实例信息。
5.0.0新增模块
Controller(控制器)和Kafka Controller类似,在RocketMQ中负责Broker Master的选举和通知Broker 。
5.0.0新增模块
Broker <-> Controller
- Broker定期把Broker信息上报Controller
- Broker同步副本状态
- Controller选举新的Broker Master后,通知全部Broker
5.0.0新增模块
Proxy无状态服务,新客户端通过Grpc接口访问Proxy进行收发消息。
社区正在讨论支持Remoting协议。
Proxy中支持嵌入Broker。
若设置proxyMode=LOCAL,则会在Proxy进程中启动一个Broker实例。
5.0.0新增模块
Proxy <-> BrokerProxy
通过Remoting协议和Broker通信,可以把Proxy当作一个Remoting的Client。
5.0.0新增模块
新Client新客户端,支持生产、消费、管理功能。目前支持Grpc协议
5.0.0新增模块
新Client <-> Proxy新客户端访问Proxy进行收发消息,管理。
RocketMQ 5.0 vs 4.9.X 图解架构对比的更多相关文章
- VMware vSphere6.0 服务器虚拟化部署安装图解(最全,最详细)-搭建的所有步骤
VMware vSphere6.0 服务器虚拟化部署安装图解 一 .VMware vSphere部署的前期规划要点 1.vSphere的优点 (略) 2如何利用现在的设备架构虚拟化环境 在虚拟化过程中 ...
- RocketMQ 5.0 POP 消费模式探秘
作者:凯易&耘田 审核校对:白玙 编辑&排版:雯燕 前言:随着 RocketMQ 5.0 preview 的发布,5.0 的重大特性逐步与大家见面.POP Consumer 作为 5. ...
- 基于云基础设施快速部署 RocketMQ 5.0 集群
本文作者:蔡高扬,Apache RocketMQ Committer, 阿里云智能技术专家. 背景 上图左侧为 RocketMQ 4.x版本集群,属于非切换架构.NameServer 作为无状态节点可 ...
- Apache RocketMQ 5.0 笔记
RocketMQ 5.0:云原生"消息.事件.流"实时数据处理平台,覆盖云边端一体化数据处理场景. 核心特性 云原生:生与云,长与云,无限弹性扩缩,K8s友好 高吞吐:万亿级吞吐保 ...
- 01.从0实现一个JVM语言之架构总览
00.一个JVM语言的诞生过程 文章集合以及项目展望 源码github地址 这一篇将是架构总览, 将自顶向下地叙述自制编译器的要素; 文章目录 01.从0实现一个JVM语言之架构总览 架构总览目前完成 ...
- solr6.5.0版本(Windows安装图解)
此教程为solr6.5.0安装,自己制作,希望可以帮到你们.
- ActionMQ5.8.0 JMS实例 手把手详细图解
出自:http://blog.csdn.net/tongjie008/article/details/40687087 ActionMQ 是开源的JMS实现 1.下载ActiveMQ 去官方网站下载: ...
- VMware vSphere6.0 服务器虚拟化部署安装图解
一 VMware vSphere部署的前期规划要点 1 vSphere的优点 (略) 2 如何利用现在的设备架构虚拟化环境 在虚拟化过程中,用户大多会考虑目前现有的服务器.存储.交换机等基础设备是否可 ...
- MyEclipse10.0的破解过程详细图解
1 首先下载破解软件包:http://pan.baidu.com/s/1pLB6xEb 并解压: 2 按照百度经验操作即可http://jingyan.baidu.com/article/cbf0e5 ...
- QT5.1.0,QT4.8.0以及VC2010、VC2012的测试对比
QT5.1.0,QT4.8.0以及VC2010.VC2012的交叉测试对比. 测试1: 用VC2012静态编译了QT5.1.0. 编译速度很慢,生成完成后,用VC2012+QT5.1.0进行程序生成, ...
随机推荐
- 使用.NET7和C#11打造最快的序列化程序-以MemoryPack为例
译者注 本文是一篇不可多得的好文,MemoryPack 的作者 neuecc 大佬通过本文解释了他是如何将序列化程序性能提升到极致的:其中从很多方面(可变长度.字符串.集合等)解释了一些性能优化的技巧 ...
- C++编程笔记(GPU并行编程)
目录 一.配置并使用 二.代码 三.内存管理 数组的分配 一.配置并使用 环境:Windows10 + CLion + VS2019 cuda的安装,并行的话只需要安装cuda,cuDNN就不必了 编 ...
- 【SQL基础】多表查询:子查询、连接查询(JOIN)、组合查询(UNION集合运算)
〇.概述 1.内容 JOIN表连接(内连接INNER JOIN/JOIN)(外连接LEFT/RIGHT (OUTER) JOIN) 集合运算-UNION联合 2.建表语句 drop table if ...
- 【每日一题】【链表&头插法&ASCII码】【链表&迭代器】2022年1月28日-NC1 大数加法
描述以字符串的形式读入两个数字,编写一个函数计算它们的和,以字符串形式返回. 思路:原生链表&头插法节点值 import java.util.*; public class Solution ...
- 看起来简单实际上却很牛的KMP算法:LeetCode572-另一棵树的子树
题目描述 给定两个非空二叉树 s 和 t,检验 s 中是否包含和 t 具有相同结构和节点值的子树.s 的一个子树包括 s 的一个节点和这个节点的所有子孙.s 也可以看做它自身的一棵子树. 暴力解法 从 ...
- 关于ckPlayer 视频加密那些事
最近疫情期间,公司在做一个在线行业教育收费平台,所以不得不做视频转码/切片/加密. 现在只说视频加密如何实现,找遍了所有百度,几乎没有提供相应的源码和例子. 而ckPlayer官网有一个收费的案例:如 ...
- 精华推荐 |【深入浅出Sentinel原理及实战】「原理探索专题」完整剖析Alibaba微服务架构体系之轻量级高可用流量控制组件Sentinel(1)
Sentinel是什么?不要概念混淆啊! 注意:本Sentinel与Redis服务Sentinel是两回事,压根不是一个概念,请大家不要混肴. Alibaba的Sentinel Sentinel是由阿 ...
- Apache Dubbo 官方正式发布 Spring 6 & Spring Boot 3 支持
Dubbo 简介 Apache Dubbo 是一款 RPC 服务开发框架,用于解决微服务架构下的服务治理与通信问题,官方提供了 Java.Golang 等多语言 SDK 实现.使用 Dubbo 开发的 ...
- 3、swagger调试
Swagger: 1.将项目中所有的接口展现在页面上,这样后端程序员就不需要专门为前端使用者编写专门的接口文档: 2.当接口更新之后,只需要修改代码中的Swagger描述就可以实时生成新的接口文档了, ...
- CF1779 Least Prefix Sum
url:Problem - C - Codeforces 题意: 给n个数字和一个m 给一个操作:每次使得其中一个下标的数字 *= -1 要求最后在所有前缀和中前m个数字是最小的 思路: 在所有前缀和 ...