netty + Protobuf (整合二)
【正文】Protobuf 消息设计
疯狂创客圈 死磕Netty 系列之12 【博客园 总入口 】
本文说明
本篇是 netty+Protobuf 实战的第二篇,完成一个 基于Netty + Protobuf 实战案例。
本篇简单说明一下,实例中,设计Protobuf 消息的大致原则和思路。
消息的大致类型
网络通信涉及到消息的定义,不管是直接使用二进制格式,还是 xml、json等字符串格式。消息都可以大体的分为3大消息类型:
请求消息
应答消息
命令消息
一般情况下,每个消息还会包含一个序列号、和一个能够唯一区分消息类型的类型定义。
原则一:使用 enum定义消息类型。
为每个系统都定义一个 HeadType 枚举。包含系统用到的所有消息的枚举类型
enum HeadType
{
Login_Request = 1;//登陆请求
Login_Response = 2;//登录响应
Logout_Request = 3;//退出请求
Logout_Response = 4;
Keepalive_Request = 5;//心跳请求ping;
Keepalive_Response = 6;
Message_Request = 7;//消息请求;
Message_Response = 8;//消息回执;
Message_Notification = 9;//通知消息
}
原则二: 一个 protobuf message 对应一类消息
会为每个具有消息体的消息定义一个对应的protobuf message。
例如Login_Request会有一个对应LoginRequest消息。
/*登录信息*/
// LoginRequest对应的HeadType为Login_Request
// 消息名称去掉下划线,更加符合Java 的类名规范
message LoginRequest{
required string uid = 1; // 用户唯一id
required string deviceId = 2; // 设备ID
required string token = 3; // 用户token
optional uint32 platform = 4; //客户端平台 windows、mac、android、ios、web
optional string app_version = 5; // APP版本号
}
原则三:应答消息需要成功标记和应答序号
对于应答消息,并非总是成功的,因此在应答消息中还会包含另外2个字段。
一个用于描述应答是否成功,一个用于描述失败时的字符串信息。
对于有多个应答的消息来说,可能会包含是否为最后一个应答消息的标识——应答的序号(类似与网络数据包被分包以后,协议要合并时,需要知道分片在包中的具体位置)。
因此Response看起来是这样:
/*聊天响应*/
message MessageResponse
{
required bool result = 1; //true表示发送成功,false表示发送失败
required uint32 code = 2; //错误码
required string info = 3; //错误描述
required uint32 expose = 4; //错误描述是否提示给用户:1 提示;0 不提示
required bool last_block = 5;
required fixed32 block_index = 6;
}
原则四:编解码从顶层消息开始
最后我会定义一个大消息,把所有的消息类型,全部封装在一起,让后在通信的时候都从顶层消息开始编解码。大消息看起来想下面这样。。
/*顶层消息*/
//顶层消息是一种嵌套消息,嵌套了各种类型消息
//内部的消息类型,全部使用optional字段
//根据消息类型 type的值,最多只有一个有效
message Message
{
required HeadType type = 1; //消息类型
required fixed32 sequence = 2;//消息系列号
fixed32 session_id = 3;
optional LoginRequest loginRequest = 4;
optional LoginResponse loginResponse = 5;
optional MessageRequest messageRequest = 6;
optional MessageResponse messageResponse = 7;
optional MessageNotification notification = 8;
}
原则五:TCP 消息需要进行二进制包装
用于UDP的时候比较简单,因为每个数据包就是一个独立的Message消息,可以直接解码,或者编码后直接发送。
但是如果是使用于TCP的时候,由于涉及到粘包、拆包等处理,而且Message消息里面也没有包含长度相关的字段(不好处理),因此把Message编码后的消息嵌入另外一个二进制消息中。
使用4字节消息长度+Message(二进制数据)+(2字节CRC校验(可选))
其中4字节的内容,只包含Message的长度,不包含自身和CRC的长度。如果需要也可以包含,当要记得通信双方必须一致。
协议接口文件完整 实例
下面是一个 为疯狂创客圈 100W*100级 分布式 IM项目定义 google protobuf 的协议接口文件
//定义protobuf的包名称空间
option java_package = "com.crazymakercircle.chat.common.bean.msg";
// 消息体名称
option java_outer_classname = "ProtoMsg";
enum HeadType
{
LOGIN_REQUEST = 1;//登陆请求
LOGIN_RESPONSE = 2;//登录响应
LOGOUT_REQUEST = 3;//退出请求
LOGOUT_RESPONSE = 4;
KEEPALIVE_REQUEST = 5;//心跳请求PING;
KEEPALIVE_RESPONSE = 6;
MESSAGE_REQUEST = 7;//消息请求;
MESSAGE_RESPONSE = 8;//消息回执;
MESSAGE_NOTIFICATION = 9;//通知消息
}
/*登录信息*/
// LoginRequest对应的HeadType为Login_Request
// 消息名称去掉下划线,更加符合Java 的类名规范
message LoginRequest{
required string uid = 1; // 用户唯一id
required string deviceId = 2; // 设备ID
required string token = 3; // 用户token
optional uint32 platform = 4; //客户端平台 windows、mac、android、ios、web
optional string app_version = 5; // APP版本号
}
//token说明: 账号服务器登录时生成的Token
/*登录响应*/
message LoginResponse{
required bool result = 1; //true 表示成功,false表示失败
required uint32 code = 2; //错误码
required string info = 3; //错误描述
required uint32 expose = 4; //错误描述是否提示给用户:1 提示;0 不提示
required string session_id = 5; //sessionId
}
/*聊天消息*/
message MessageRequest{
uint64 msg_id = 1; //消息id
string from = 2; //发送方uId
string to = 3; //接收方uId
uint64 time = 4; //时间戳(单位:毫秒)
required uint32 msg_type = 5; //消息类型 1:纯文本 2:音频 3:视频 4:地理位置 5:其他
required string session_id = 6; //sessionId
string content = 7; //消息内容
string url = 8; //多媒体地址
string property = 9; //附加属性
string from_nick = 10; //发送者昵称
optional string json = 11; //附加的json串
}
/*聊天响应*/
message MessageResponse
{
required bool result = 1; //true表示发送成功,false表示发送失败
required uint32 code = 2; //错误码
required string info = 3; //错误描述
required uint32 expose = 4; //错误描述是否提示给用户:1 提示;0 不提示
required bool last_block = 5;
required fixed32 block_index = 6;
}
/*通知消息*/
message MessageNotification
{
required uint32 msg_type = 1; //通知类型 1 上线 2 下线 ...
required bytes sender = 2;
required string json = 3;
required string timestamp = 4;
}
/*顶层消息*/
//顶层消息是一种嵌套消息,嵌套了各种类型消息
//内部的消息类型,全部使用optional字段
//根据消息类型 type的值,最多只有一个有效
message Message
{
required HeadType type = 1; //消息类型
required uint64 sequence = 2;//消息系列号
required fixed32 session_id = 3;
optional LoginRequest loginRequest = 4;
optional LoginResponse loginResponse = 5;
optional MessageRequest messageRequest = 6;
optional MessageResponse messageResponse = 7;
optional MessageNotification notification = 8;
}
// sequence 消息系列号
// 主要用于Request和Response,Response的值必须和Request相同,使得发送端可以进行事务匹配处理
参考文章:
疯狂创客圈 实战计划
Netty 亿级流量 高并发 IM后台 开源项目实战
Netty 源码、原理、JAVA NIO 原理
Java 面试题 一网打尽
疯狂创客圈 【 博客园 总入口 】
netty + Protobuf (整合二)的更多相关文章
- netty+Protobuf (整合一)
netty+Protobuf 整合实战 疯狂创客圈 死磕Netty 亿级流量架构系列之12 [博客园 总入口 ] 本文说明 本篇是 netty+Protobuf 整合实战的 第一篇,完成一个 基于Ne ...
- Netty Reator(二)Scalable IO in Java
Netty Reator(二)Scalable IO in Java Netty 系列目录 (https://www.cnblogs.com/binarylei/p/10117436.html) Do ...
- 转: 基于netty+ protobuf +spring + hibernate + jgroups开发的游戏服务端
from: http://ybak.iteye.com/blog/1853335 基于netty+ protobuf +spring + hibernate + jgroups开发的游戏服务端 游戏服 ...
- Netty入门(二):Channel
前言 Netty系列索引: 1.Netty入门(一):ByteBuf 2.Netty入门(二):Channel 在Netty框架中,Channel是其中之一的核心概念,是Netty网络通信的主体,由它 ...
- Netty 学习(二):服务端与客户端通信
Netty 学习(二):服务端与客户端通信 作者: Grey 原文地址: 博客园:Netty 学习(二):服务端与客户端通信 CSDN:Netty 学习(二):服务端与客户端通信 说明 Netty 中 ...
- Spring - Netty (整合)
写在前面 大家好,我是作者尼恩.目前和几个小伙伴一起,组织了一个高并发的实战社群[疯狂创客圈].正在开始 高并发.亿级流程的 IM 聊天程序 学习和实战,此文是: 疯狂创客圈 Java ...
- SSM整合(二):Spring4与Mybatis3整合
上一节测试好了Mybatis3,接下来整合Spring4! 一.添加spring上下文配置 在src/main/resources/目录下的spring新建spring上下文配置文件applicati ...
- Spring+Quartz 整合二:调度管理与定时任务分离
新的应用场景:很多时候,我们常常会遇到需要动态的添加或修改任务,而spring中所提供的定时任务组件却只能够通过修改xml中trigger的配置才能控制定时任务的时间以及任务的启用或停止,这在带给我们 ...
- Struts2.3.34+Hibernate 4.x+Spring4.x 整合二部曲之上部曲
1 导入jar包 可以复制jar包或maven导入,本文最后会给出github地址 2 导入log4j.properties文件 og4j.appender.stdout=org.apache.log ...
随机推荐
- Atitit.prototype-base class-based 基于“类” vs 基于“原型”
Atitit.prototype-base class-based 基于“类” vs 基于“原型” 1. 基于“类” vs 基于“原型”1 2. 对象的产生有两种基本方式.一种是以原型(proto ...
- mysql 一些常用指令
登陆: mysql -u root -p //登陆,输入root密码 退出登陆 mysql>exit; mysql 为所有ip授权 mysql> GRANT ALL PRIVILEGES ...
- 利用inotifywait监控主机文件和目录
利用inotifywait监控主机文件和目录 inotifywait 是一个可以实时监控文件变动的工具,它利用linux内核中的inotify机制实现监控功能. 查看内核版本 [root@Oracle ...
- oracle /plsql 计算平闰年天数函数
--计算平闰年天数函数 CREATE OR REPLACE FUNCTION f_ping_run_nian (i_year NUMBER --定义函数名 ) RETURN VARCHAR2 IS - ...
- The Definitive Guide To Django 2 学习笔记(四) 动态URLs
前面的例子中,虽然时间是动态可变的,但它的URL却是静态的(/time/).很多时候,URL也是需要动态改变,然后展示出不通的内容来.现在我们就来创建一个可以动态改变URL的例子. 如果URLconf ...
- C#中的事件介绍
什么是事件?事件有哪些?怎么用事件? 一.什么是事件? 事件(Event) 基本上说是一个用户操作,如按键.点击.鼠标移动.输入值改变等等,或者是一些出现,如系统生成的通知.应用程序需要在事件发生时响 ...
- lnmp集成开发环境安装pdo_dblib扩展
php连接mssql,获取的结果中文乱码,pdo_dblib扩展使用的是apt-get install php5-sybase方法安装的,尝试了修改freetds.conf php.ini 文件编码 ...
- MFC编程之创建Ribbon样式的应用程序框架
Ribbon界面就是微软从Office2007開始引入的一种为了使应用程序的功能更加易于发现和使用.降低了点击鼠标的次数的新型界面.从实际效果来看,不仅外观美丽,并且功能直观,用户操作简洁方便. 利用 ...
- 【Mac + Appium + Python3.6学习(五)】之常用的Android自动化测试API总结
Github测试样例地址:https://github.com/appium-boneyard/sample-code/tree/master/sample-code/examples ①定位text ...
- 阐述二维码的原理以及使用google api和PHP QR Code来生成二维码
一.什么是二维码:二维码 (2-dimensional bar code),是用某种特定的几何图形按一定规律在平面(二维方向上)分布的黑白相间的图形记录数据符号信息的.在许多种类的二维条码中,常用的码 ...