[源码分析] 并行分布式任务队列 Celery 之 Timer & Heartbeat 目录 [源码分析] 并行分布式任务队列 Celery 之 Timer & Heartbeat 0x00 摘要 0x01 Blueprint 0x02 Timer Step 2.1 Transport 2.2 Thread-less VS Thread-based 0x03 Timer in Pool 3.1 gevent 和 eventlet 3.2 BasePool 0x04 kombu.Timer…

[源码分析]并行分布式任务队列 Celery 之 子进程处理消息 0x00 摘要 Celery是一个简单.灵活且可靠的,处理大量消息的分布式系统,专注于实时处理的异步任务队列,同时也支持任务调度.在前文中,我们介绍了Celery 多线程模型,本文介绍子进程如何处理消息. 通过本文,大家可以梳理如下流程: 父进程如何发送消息给子进程: 子进程如何接受到父进程消息: 子进程如何一步一步解析消息,从而把运行任务需要的各种信息一层一层剥离出来: 子进程在得到任务信息后,如何运行任务: 为什么 Celer…

[源码解析] 并行分布式任务队列 Celery 之 Task是什么 目录 [源码解析] 并行分布式任务队列 Celery 之 Task是什么 0x00 摘要 0x01 思考出发点 0x02 示例代码 0x03 任务是什么 0x04 Celery应用与任务 4.1 全局回调集合 和 内置任务 4.2 装饰器@app.task 4.2.1 建立 Proxy 实例 4.2.2 添加待处理 4.3 Celery Worker 启动 4.3.1 Worker 示例 4.3.2 WorkController…

[源码解析] 并行分布式任务队列 Celery 之 消费动态流程 目录 [源码解析] 并行分布式任务队列 Celery 之 消费动态流程 0x00 摘要 0x01 来由 0x02 逻辑 in kombu 2.1 消息循环 -- hub in kombu 2.2 Broker抽象 -- Transport in kombu 2.3 执行引擎 --- MultiChannelPoller in kombu 2.4 解读消息 -- Channel in kombu 2.5 开始回调 -- Transp…

[源码解析] 并行分布式任务队列 Celery 之 多进程模型 目录 [源码解析] 并行分布式任务队列 Celery 之 多进程模型 0x00 摘要 0x01 Consumer 组件 Pool bootstep 1.1 bootsteps 0x02 进程池入口 -- TaskPool 2.1 进程池初始化 2.2 进程池启动 start 0x03 进程池实现 -- AsynPool 3.1 实例化 3.2 建立通讯机制 queues 3.2.1 _SimpleQueue 3.2.2 Pipe 3…

[源码解析] 并行分布式任务队列 Celery 之 EventDispatcher & Event 组件 目录 [源码解析] 并行分布式任务队列 Celery 之 EventDispatcher & Event 组件 0x00 摘要 0x01 思路 0x02 定义 0x03 Producer 3.1 Connection 3.2 Exchange 3.3 建立 0x04 分发事件 4.1 Send 发送 4.2 publish 与 broker 交互 0x05 Events 组件 5.1…

[源码解析] 并行分布式任务队列 Celery 之 负载均衡 目录 [源码解析] 并行分布式任务队列 Celery 之 负载均衡 0x00 摘要 0x01 负载均衡 1.1 哪几个 queue 1.1.1 _brpop_start 选择下次读取的queue 1.1.2 round_robin_cycle 设置下次读取的 queue 1.2 哪一个worker 1.3 哪一个进程 1.3.1 策略 1.3.2 公平调度 1.3.3 公平调度 in Celery 0x02 Autoscaler 2.…

[源码解析] 并行分布式框架 Celery 之 Lamport 逻辑时钟 & Mingle 目录 [源码解析] 并行分布式框架 Celery 之 Lamport 逻辑时钟 & Mingle 0x00 摘要 0x01 逻辑时钟 1.1 来由 1.2 什么是逻辑时钟 1.3 为什么需要逻辑时钟 1.4 Lamport 逻辑时钟 0x02 Lamport 时钟 in Kombu 0x03 使用 clock 3.1 Kombu mailbox 3.2 Celery 应用 3.3 EventDisp…

[源码解析] 并行分布式框架 Celery 之架构 (2) 目录 [源码解析] 并行分布式框架 Celery 之架构 (2) 0x00 摘要 0x01 上文回顾 0x02 worker的思考 2.1 worker的模式 2.1.1 Nginx模式 2.1.2 Celery 模式 2.1.2.1 模式 2.1.2.2 交互 2.2 worker 组成 2.2.1 task_pool 2.2.2 consumer 2.2.3 Scheduler 2.2.3.1 Beat 2.2.3.2 Timer…

[源码解析] 并行分布式框架 Celery 之架构 (1) 目录 [源码解析] 并行分布式框架 Celery 之架构 (1) 0x00 摘要 0x01 Celery 简介 1.1 什么是 Celery 1.2 场景 1.3 特性 1.4 区别 0x02 Celery的架构 2.1 组件 2.2 任务流程 2.3 架构图 0x03 Celery 设计推理 3.1 Celery 基本功能 3.2 Celery 辅助功能 3.3 如何划分 0x04 对 AMQP / Kombu 的封装 4.1 封装…