Gobelieve 架构

im 客户连接服务器（可分布式部署，暂无负载均衡模块)

imr 路由查询服务器（主要解决im分布式部署的问题）

ims 存储服务器 (主从部署)

基础模块

1.数据包协议

包：header()|body

header:len(),seq(),cmd(),version(),空()

2.数据收发流程

accept收到一个连接

开启写线程和读线程

写线程：监听client.wt阻塞队列，一有数据就写入conn

读线程：按照数据包协议从conn读出数据包，由client.HandleMessage处理

3.几个方法

PushMessage 通过route_channel 发送 MSG_PUBLISH 给IMR

PushGroupMessage 通过route_channel 发送 MSG_PUBLISH_GROUP 给IMR

SaveMessage 通过IMS RPC服务 调用SavePeerMessage

SaveGroupMessage 通过IMS RPC服务 调用SaveGroupMessage

im_client.SendMessage

    .PushMessage

    .本地路由查询 并EnqueueMessage

im_client.SendGroupMessage

    .PushGroupMessage

    .group_manager查询group

    .由group得到所有menber，对每个menber查询路由表，并EnqueueMessage

im_client.EnqueueMessage

    将数据写入client.wt,供发送出去

IM 模块

IM模块初始化

1.redis_pool

2.storage_pools 连接ims:3333

http服务器读取最近消息时调用

3.rpc_clients ims：13333

SyncMessage

SyncGroupMessage

SavePeerMessage

SaveGroupMessage

4.group_rpc_clients (可选)

5.route_channels 连接imr:4444

开启读写线程

写：从channel.wt管道取值并发送给imr

读：从imr接受消息，并分发给当前im节点连接用户

6.group_manager

.load: 从mysql加载group，保存至 group_manager.groups

.run: reids订阅

case group_create、

    group_disband、

    group_member_add、

    group_member_remove、

    group_upgrade、

    回调处理 增删改查group_manager.groups

case ping

    脏数据检测

.ping:

   每个五分钟发送ping

7.group_message_deliver：普通群消息分发

.init：创建本地存储文件

.run： 监听wt管道，有数据表示有新消息写入文件

        读取文件并发送

8.ListenRedis 禁言

redis订阅 speak_forbidden

接受事件推送，从本地路由查询到对应client，修改forbidden字段。

9.SyncKeyService

从 group_sync_c 和 sync_c 管道取值，保存至redis

( 客户端发送的 MSG_GROUP_SYNC_KEY 和 MSG_SYNC_KEY 消息会将消息内同步key写入对应的管道 group_sync_c 和 sync_c)

10.StartHttpServer :6666

web服务器

11.StartSocketIO :websocket

12.ListenClient :23000 处理客户端连接

ListenClient 处理流程

1.登录认证 cmd:MSG_AUTH_TOKEN

客户端将uid与token传给服务器，由redis_pool查询认证

认证成功: .由EnqueueMessage发送消息{cmd:MSG_AUTH_STATUS,status:}

        .client.AddClient() 缓存本连接到本机路由表

        .client.IMClient.Login() 缓存本链接到IMR路由表

认证失败: 由EnqueueMessage发送消息{cmd:MSG_AUTH_STATUS,status:}

2.IMClient 处理消息类型

MSG_IM: 处理IM 同步消息

MSG_GROUP_IM: 处理Group 同步消息

MSG_INPUTING: 处理Inputing消息

MSG_RT: 处理实时消息

MSG_UNREAD_COUNT: 设置未读消息数

MSG_SYNC: 客户端请求同步最新消息

MSG_SYNC_KEY: 客户端将SYNC_KEY 传至服务端

MSG_SYNC_GROUP: 客户端请求同步最新群消息

MSG_GROUP_SYNC_KEY: 客户端将GROUP_SYNC_KEY 传至服务端

RoomClient 消息类型

MSG_ENTER_ROOM：进入聊天室

MSG_LEAVE_ROOM：离开聊天室

MSG_ROOM_IM：聊天室IM消息

VOIPClient消息类型

MSG_VOIP_CONTROL： VOIP命令

CustomerClient消息类型

MSG_CUSTOMER： 顾客->客服

MSG_CUSTOMER_SUPPORT：客服->顾客

3.MSG_IM处理流程：
用户A -> B

.SaveMessage：保存消息到目标用户B存储队列 (rpc->SavePeerMessage)

.SaveMessage：保存消息到发送用户A存储队列（供多点登录同步消息）

.PushMessage：外部推送消息给目标用户B（由IMR寻路由）MSG_IM

.SendMessage：发送同步消息给目标用户B (外部推送+本地寻址发送) MSG_SYNC_NOTIFY

.SendMessage：发送同步消息给发送用户A（多点登录）MSG_SYNC_NOTIFY

.EnqueueMessage：给本连接回复MSG_ACK消息

4.MSG_GROUP_IM处理流程

.由group_manager查询到指定group

.根据Group类型：

    .HandleSuperGroupMessage：

        SaveGroupMessage：保存MSG_GROUP_IM消息 (rpc->SaveGroupMessage)

        PushGroupMessage：外部推送群消息 MSG_GROUP_IM

        SendGroupMessage：发送群同步通知消息（外部推送+本地寻址推送） MSG_SYNC_GROUP_NOTIFY

    .HandleGroupMessage：

        group_message_deliver：

            saveMessage：本地保存消息 MSG_PENDING_GROUP_MESSAGE

            ReadMessage：读取消息 MSG_PENDING_GROUP_MESSAGE

            对群每个成员：SaveMessage：保存MSG_GROUP_IM消息

                        PushMessage：外部推送消息 MSG_GROUP_IM

                        SendMessage：发送同步消息 MSG_SYNC_NOTIFY

.EnqueueMessage：给本连接回复MSG_ACK消息

5.MSG_INPUTING：

SendMessage：发送给目标用户

6.MSG_RT 实时消息处理流程

SendMessage：发送消息给目标用户

7.MSG_UNREAD_COUNT 设置用户未读数：

由redis_pool操作 hashkey:users_$appid_$uid field:unread

8.消息同步流程：

服务端->客户端 MSG_SYNC_NOTIFY：

    客户端：

    .isSyncing==false：sendSync 发送旧syncKey，请求消息MSG_SYNC，状态切换为同步状态

    .isSyncing==true: 同步状态中，新的newSyncKey 保存在pendingSyncKey中，this.pendingSyncKey = newSyncKey;

客户端->服务端：MSG_SYNC

    服务端：

    .从客户端传来的sync_key得到last_id，（如果last_id==，从redis取出最新sync_key）

    .rpc->SyncMessage:根据last_id取出缓存的最近消息msgs

    .EnqueueMessage：发送MSG_SYNC_BEGIN消息 (客户端不做处理)

    .EnqueueMessage：循环发送msgs

    .EnqueueMessage：发送MSG_SYNC_END消息 其中包含sync_key为最后一条msg的MsgID

服务端->客户端：MSG_SYNC_END

    客户端：

    .取出newSyncKey（如果newSyncKey>this.syncKey,客户端保存newSyncKey，并发送给服务端MSG_SYNC_KEY）

    .切换同步状态isSyncing = false;

    .如果this.pendingSyncKey > this.syncKey ，

        即在上次同步中有新的MSG_SYNC_NOTIFY消息传给客户端，则再次同步，sendSync发送syncKey，pendingSyncKey置零

客户端->服务端: MSG_SYNC_KEY

    服务端：

    .从sync_key得到last_id，

    .包裹成SyncHistory，写入管道sync_c <- s

消息传输流程

9.超级群同步流程

服务端->客户端 MSG_SYNC_GROUP_NOTIFY

    客户端：

    .isSyncing==false：sendSync 发送旧syncKey，请求消息MSG_SYNC_GROUP，状态切换为同步状态

    .isSyncing==true: 同步状态中，新的newSyncKey 保存在pendingSyncKey中，this.pendingSyncKey = newSyncKey;

客户端->服务端 MSG_SYNC_GROUP

    服务端：

    /从客户端传来的group_sync_key取出group_id，sync_key，last_id=sync_key，（如果last_id，从redis取出新的group_sync_key_$groupid)

    .rpc->SyncGroupMessage：根据last_id取出最近的群消息 msgs

    .EnqueueMessage：发送MSG_SYNC_GROUP_BEGIN 消息

    .EnqueueMessage：循环发送msgs

    .EnqueueMessage：发送MSG_SYNC_GROUP_END，其中sync_key为最后一条msg的MsgID

服务端->客户端 MSG_SYNC_GROUP_END

    客户端：

    .取出GroupSyncKey.syncKey和当前syncKey（如果GroupSyncKey.syncKey较大，客户端保存更新，并发送给服务端 MSG_GROUP_SYNC_KEY）

    .切换同步状态isSyncing = false;

        如果this.pendingSyncKey > this.syncKey ，

            即在上次同步中有新的MSG_SYNC_NOTIFY消息传给客户端，则再次同步，sendSync发送syncKey，pendingSyncKey置零

客户端->服务端 MSG_GROUP_SYNC_KEY

    服务端：

    .取出group_id last_id

    .包裹成SyncGroupHistory，写入管道group_sync_c <- s

IMR模块

1.redis_pool

2.group_manager

3.ListenClient :4444

.MSG_SUBSCRIBE

.MSG_UNSUBSCRIBE

.MSG_SUBSCRIBE_ROOM

.MSG_UNSUBSCRIBE_ROOM

（以上四个均是对imr维护的路由表增删改查）

.MSG_PUBLISH

    .根据消息内容得到消息类型和目标用户

    .查询路由表，用户如果离线则将消息放入第三方推送队列

    .根据路由表得到用户连接所在im节点，并把消息推送至该节点

    第三部过滤条件：

        .消息类型不为 MSG_IM、MSG_GROUP_IM、MSG_CUSTOMER、MSG_CUSTOMER_SUPPORT、MSG_SYSTEM

        .目标IM节点和发送IM节点不是同一节点

.MSG_PUBLISH_GROUP

    .根据消息内容得到消息类型和群

    .对群内每个成员查询路由表，用户如果离线则将消息放入第三方推送队列

    .群发给所有IM节点

    第三部过滤条件：

        .消息类型为 MSG_PUBLISH_GROUP

.MSG_PUBLISH_ROOM

    .根据消息内容得到roomid

    .根据roomid查询路由表得到所有节点

    .对每个节点发送消息

    第三部过滤条件：

        .发送节点和目标节点不是同一节点

IMR架构

IMS模块 (主从)

1.NewMaster

.init：创建容器存储 clients,创建队列ewt

.run：监听队列ewt，将ewt队列内消息添加到缓存cache数组

    cache每满1000或者每隔1分钟，执行SendBatch，

    SendBatch：

        封装消息 MSG_STORAGE_SYNC_MESSAGE_BATCH ，写入每个从节点连接的消息队列client.ewt

2.NewSlaver 监听主节点（可选）

run：连接至主节点，连接成功发送 MSG_STORAGE_SYNC_BEGIN

    循环读取消息：

        MSG_STORAGE_SYNC_MESSAGE storage.SaveSyncMessage(emsg)

        MSG_STORAGE_SYNC_MESSAGE_BATCH storage.SaveSyncMessageBatch(mb)

3.waitSignal 处理中断 SIGINT SIGTERM

storage.FlushPeerIndex() 将每个人最近消息的msgid写入文件

storage.FlushGroupIndex()

4.ListenSyncClient master监听 3334

处理从节点连接 RunLoop：

    .(初始化同步)接受 MSG_STORAGE_SYNC_BEGIN 消息，从中取得msgid，

    根据msgid LoadSyncMessagesInBackground 查询得到消息，并发送给从节点

    .将从节点连接添加至 clients

    .进入for循环，监听消息队列client.ewt并发送给从节点

    .循环break后 RemoveClient

5.ListenRPCClient ：13333

SyncMessage

SyncGroupMessage

SavePeerMessage

SaveGroupMessage

GetNewCount

由im调用

6.ListenClient() 3333

对于每个连接：

    .init：创建写管道wt

    .run ：写线程，从wt管道取数据并发送

            读线程，HandleMessage

7.HandleMessage

.MSG_LOAD_OFFLINE

    对IM: storage_client.LoadOfflineMessage响应

.MSG_SAVE_AND_ENQUEUE

    对IM:storage_client.SaveAndEnqueueMessage响应

.MSG_DEQUEUE

    对IM: storage_client.DequeueMessage响应

*.MSG_LOAD_LATEST

    对IM-StartHttpServer-LoadLatestMessage响应

*.MSG_LOAD_HISTORY

    对IM-StartHttpServer-LoadHistoryMessage响应

.MSG_SAVE_AND_ENQUEUE_GROUP

    对IM: storage_client.SaveAndEnqueueGroupMessage响应

.MSG_DEQUEUE_GROUP

    对IM :storage_client.DequeueGroupMessage响应

.MSG_LOAD_GROUP_OFFLINE

    对IM: storage_client.LoadGroupOfflineMessage响应

（上述除了4，，暂无被IM模块调用）

IMS架构

作者：JackieF777
链接：https://www.jianshu.com/p/8121d6e85282
来源：简书
简书著作权归作者所有，任何形式的转载都请联系作者获得授权并注明出处。