nginx-push-stream模块源码学习(三)——发布
一、概述
发布:发布者将MSG post到某一特定通道上,channel将信息缓存
在说明发布流程之前有必要说明下channel和msg的数据结构。
二、数据结构
2.1 MSG
发布时,模块先将消息转化为ngx_http_push_stream_msg_t的数据结构进行存储。
- // message queue
- typedef struct {
- ngx_queue_t queue; // this MUST be first
- time_t expires;//消息过期时间
- time_t time;//消息创建时间
- ngx_flag_t deleted;//是否已删除
- ngx_int_t id;
- ngx_str_t *raw;//纯文本
- ngx_int_t tag;
- ngx_str_t *event_id;//支持event source
- ngx_str_t *event_id_message;
- ngx_str_t *formatted_messages;//格式化后消息
- ngx_int_t workers_ref_count;//待发送该消息ngx worker计数
- } ngx_http_push_stream_msg_t;
@queue:每个channel会维护一个消息链表,每向channel发布一条消息,channel将其添加到自身的消息链表中。
@expires,@deleted:消息的过期时间,待介绍过订阅流程后,我会整理出一条消息的生产周期,到时会详细阐述该字段的意义。
@raw,@formatted_messages:该模块允许自定义三种消息模板——header模板:当收到订阅请求后发送模板消息;message模板:对消息体格式化;footer模板:断开连接时发送该模板。raw为消息原始内容,后者为应用message模板格式化后的信息
2.2 channel
channel作为发布订阅的中间载体,理解理解它的存储至关重要。
- typedef struct {
- ngx_rbtree_node_t node; // this MUST be first
- ngx_str_t id;
- ngx_uint_t last_message_id;
- time_t last_message_time;
- ngx_int_t last_message_tag;
- ngx_uint_t stored_messages;//# of messages
- ngx_uint_t subscribers;//# of subscribers
- ngx_http_push_stream_pid_queue_t workers_with_subscribers;//处理该channel上订阅者的ngx worker进程链表
- ngx_http_push_stream_msg_t message_queue;//消息链表
- time_t expires;//过期时间
- ngx_flag_t deleted;//是否已删除
- ngx_flag_t broadcast;//是否为广播通道
- ngx_http_push_stream_msg_t *channel_deleted_message;//已删除消息链表
- } ngx_http_push_stream_channel_t;
2.3 worker msg
- // messages to worker processes
- typedef struct {
- ngx_queue_t queue;
- ngx_http_push_stream_msg_t *msg; // ->shared memory
- ngx_pid_t pid;
- ngx_http_push_stream_channel_t *channel; // ->shared memory
- ngx_http_push_stream_queue_elem_t *subscribers_sentinel; // ->a worker's local pool
- } ngx_http_push_stream_worker_msg_t;
模块初始化时为每个ngx worker分配一片独立的工作区,工作区中维护一份消息链表。
三、流程
发布流程总的流程图如图所示:
对于删除channel和获取channel info的流程比较简单,不做阐述,具体说明下发布消息流程,流程图如图所示:

需要说明的是“向所有订阅者发送MSG”的过程:
- 向每个有该channel订阅者的worker(workers_with_subscriber)的消息链表中插入一条消息
- 向上述worker发送CHECK_MESSAGES指令,触发msg发送流程(ngx_http_push_stream_process_worker_message)
MSG发送(ngx_http_push_stream_process_worker_message):
- // now let's respond to some requests!
- //对于该channel上的所有订阅者
- while ((cur = (ngx_http_push_stream_queue_elem_t *) ngx_queue_next(&cur->queue)) != subscribers_sentinel) {
- ngx_http_push_stream_subscriber_t *subscriber = (ngx_http_push_stream_subscriber_t *) cur->value;
- //如果订阅者为longpolling模式
- if (subscriber->longpolling) {
- ngx_http_push_stream_queue_elem_t *prev = (ngx_http_push_stream_queue_elem_t *) ngx_queue_prev(&cur-
- >queue);
- //发送longpolling头(last Modified/Etag)
- ngx_http_push_stream_add_polling_headers(subscriber->request, msg->time, msg->tag, subscriber->reque
- st->pool);
- ngx_http_send_header(subscriber->request);
- //发送模块配置header模板
- ngx_http_push_stream_send_response_content_header(subscriber->request, ngx_http_get_module_loc_conf(
- subscriber->request, ngx_http_push_stream_module));
- //发送响应MSG
- ngx_http_push_stream_send_response_message(subscriber->request, channel, msg);
- //发送footer模板,last chunck("\0"CRLF CRLF)
- ngx_http_push_stream_send_response_finalize(subscriber->request);
- cur = prev;
- } else {//stream或polling模式
- if (ngx_http_push_stream_send_response_message(subscriber->request, channel, msg) == NGX_ERROR) {
- ngx_http_push_stream_queue_elem_t *prev = (ngx_http_push_stream_queue_elem_t *) ngx_queue_prev(&
- cur->queue);
- ngx_http_push_stream_send_response_finalize(subscriber->request);
- cur = prev;
- }
- }
说明:
可以看出push stream模块在发布过程中针对longpolling和stream两种模式的不同:
- Longpolling模式下,每次发布消息时会发送longpolling头:last modified和etag,使得客户端下次请求时可据此判断服务端是否有更新的消息待发布。
- longpolling模式下,订阅者每次请求都会在获得数据后断开重连,所以每次发布时都会发送header模板
- ngx_http_push_stream_send_response_finalize同时会清理订阅者
nginx-push-stream模块源码学习(三)——发布的更多相关文章
- ngx-push-stream模块源码学习(四)——订阅
一.概述 push stream模块允许三种模式的订阅者: longpolling:每收到服务端响应数据即断开连接然后迅速重连,连接耗时可以忽略 stream:与服务端保持长连接,持续不断的请求-&g ...
- nginx-push-stream模块源码学习(二)——模块初始化
本文重点介绍push stream模块的构成,至于nginx如何启动.维护该模块不会详细阐述,以后有时间会做详细阐述. 一.模块定义 1.1. 模块配置 通用nginx模块的配置struct有三种, ...
- nginx健康检查模块源码分析
nginx健康检查模块 本文所说的nginx健康检查模块是指nginx_upstream_check_module模块.nginx_upstream_check_module模块是Taobao定制的用 ...
- mybatis源码学习(三)-一级缓存二级缓存
本文主要是个人学习mybatis缓存的学习笔记,主要有以下几个知识点 1.一级缓存配置信息 2.一级缓存源码学习笔记 3.二级缓存配置信息 4.二级缓存源码 5.一级缓存.二级缓存总结 1.一级缓存配 ...
- Vue源码学习三 ———— Vue构造函数包装
Vue源码学习二 是对Vue的原型对象的包装,最后从Vue的出生文件导出了 Vue这个构造函数 来到 src/core/index.js 代码是: import Vue from './instanc ...
- 05.ElementUI源码学习:项目发布配置(github pages&npm package)
0x00.前言 书接上文.项目第一个组件已经封装好,说明文档也已编写好.下面需要将说明文档发布到外网上,以此来展示和推广项目,使用 Github Pages功能实现.同时将组件发布之 npm 上,方便 ...
- ngx-push-stream模块源码学习(五)——内存清理
1.定时器 采用nginx自身的定时器管理机制,具体细节待学习过nginx源码后加以补充 2.channel的生成周期 (0).初始(诞生) 发布.订阅均有可能产生ch ...
- spring源码学习(三)--spring循环引用源码学习
在spring中,是支持单实例bean的循环引用(循环依赖)的,循环依赖,简单而言,就是A类中注入了B类,B类中注入了A类,首先贴出我的代码示例 @Component public class Add ...
- [spring源码学习]三、IOC源码——自定义配置文件读取
一.环境准备 在文件读取的时候,第9步我们发现spring会根据标签的namespace来选择读取方式,联想spring里提供的各种标签,比如<aop:xxx>等应该会有不同的读取和解析方 ...
随机推荐
- [CLR via C#]4. 类型基础及类型、对象、栈和堆运行时的相互联系
原文:[CLR via C#]4. 类型基础及类型.对象.栈和堆运行时的相互联系 CLR要求所有类型最终都要从System.Object派生.也就是所,下面的两个定义是完全相同的, //隐式派生自Sy ...
- easyui datagrid load 封装 参数问题 js 作用域
var temp = { LoginAccount: $('#LoginAccount').val(), ShopName: $('#ShopName').val() }; function doSe ...
- sql语句查询列的说明
SELECT C.name,value FROM sys.columns C INNER JOIN sys.tables T ON C.object_id = T.object_idINNER JOI ...
- centos下mysql 最新版最终成功安装!备份一下几个关键地方
我本来仅仅是为了搭建简单的LAMP环境,亲自己主动手,却发现有这么多的问题会发生.(by default7#zbphp.com) 非常多地方给的安装Mysql的提示是通过yum一键安装.shell命令 ...
- java设计模式之六适配器模式(Adapter)
适配器模式将某个类的接口转换成客户端期望的另一个接口表示,目的是消除由于接口不匹配所造成的类的兼容性问题.主要分为三类:类的适配器模式.对象的适配器模式.接口的适配器模式.首先,我们来看看类的适配器模 ...
- installshield 32位打包和64位打包的注意事项
原文:installshield 32位打包和64位打包的注意事项 32/64位问题要把握几点:1. 明确你的产品是否需要区分32/64位2. 明确你的产品中是否有32/64位的服务注册3. 了解In ...
- CORS(跨域资源共享)跨域问题及解决
当使用ajax跨域请求时,浏览器报错:XmlHttpRequest error: Origin null is not allowed by Access-Control-Allow-Origin.肯 ...
- [转]C/C++:构建你自己的插件框架
本文译自Gigi Sayfan在DDJ上的专栏文章.Gigi Sayfan是北加州的一个程序员,email:gigi@gmail.com. 本文是一系列讨论架构.开发和部署C/C++跨平台插件框架的文 ...
- leetcode第29题--Substring with Concatenation of All Words
problem: You are given a string, S, and a list of words, L, that are all of the same length. Find al ...
- 使用Clean() 去掉由函数自动生成的字符串中的双引号
有时候由Excel单元格函数軿凑出来的字符串会自带双引号 效果如下: 想这种这个情况,刚好我们軿凑出来的是SQL语句, 执行的时候是去掉双引号, 这时候可以使用Excel自带的函数来去掉双引号 Cle ...