gearman任务分发改进
基于我上次在这里发现的问题,就是一次性投递20个消息,用sleep等待后发现,最后一个任务需要等前面19个都跑完才能执行,所以这里做一下改进。
client.php
<?php
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
for ($i=0; $i < 20; $i++) {
$ret[$i] = $client->doBackground('runLaterJob', json_encode(array(
'uid' => 'test user id '.$i,
'title' => '添加一个需要延时处异步执行的代码标题',
'body' => '执行这个异步的具体内容',
'run_time' => time() + 2,
)));
}
worker.php
<?php $worker = new GearmanWorker();
$worker->addServer('127.0.0.1', 4730);
$worker->addFunction('runLaterJob', function($job) {
$data = json_decode($job->workload(), true);
if (isset($data['run_time']) && $data['run_time'] > time()) {
// 如果需要延时还没到时间就下次再处理
add_work($data);
}
else {
echo "处理任务 uid:{$data['uid']}--title:{$data['title']}--body:{$data['body']} 成功\n";
}
});
while($worker->work()); function add_work($data = []) {
$client = get_client();
$client->doBackground('runLaterJob', json_encode($data));
} function get_client() {
static $client = NULL;
if (!$client) {
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
}
return $client;
}
核心思路是,加入任务的时候就计算好自己什么时候执行,然后在执行任务这里不断的判断是不是到时间了 到时间就执行,否则就再次加入任务,这样就能避免最后一个任务被sleep给阻塞住了。虽然这里一直加入任务感觉会很傻瓜,不过可以稍微做个改进,用usleep(1000)这样每毫秒去跑一次,这样就既能控制在毫秒级别,又能减轻循环压力。
说干就干,接下来是改进的代码。
client.php
<?php
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
$sleep_time = [2, 0.001, 0.005, 0.8, 0.007, 0.5, 1, 5, 0.1, 2, 2.03, 1.24, 0.12, 3.08, 4.77, 1.42, 2.69, 3.49, 0.29, 1.99];
for ($i=0; $i < 20; $i++) {
$ret[$i] = $client->doBackground('runLaterJob', json_encode(array(
'uid' => 'test user id '.$i,
'title' => '添加一个需要延时处异步执行的代码标题',
'body' => '执行这个异步的具体内容',
'run_time' => microtime(true) + $sleep_time[$i],
)));
}
worker.php
<?php $worker = new GearmanWorker();
$worker->addServer('127.0.0.1', 4730);
$worker->addFunction('runLaterJob', function($job) {
$data = json_decode($job->workload(), true);
if (isset($data['run_time']) && $data['run_time'] > microtime(true)) {
// 如果需要延时还没到时间就下次再处理
usleep(1000);
add_work($data);
}
else {
echo "处理任务 uid:{$data['uid']}--title:{$data['title']}--body:{$data['body']} 成功\n";
}
});
while($worker->work()); function add_work($data = []) {
$client = get_client();
$client->doBackground('runLaterJob', json_encode($data));
} function get_client() {
static $client = NULL;
if (!$client) {
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
}
return $client;
}
运行php worker.php
然后新开一个终端运行php client.php
控制台打印结果为
处理任务 uid:test user id 1--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 2--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 4--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 8--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 12--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 18--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 5--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 3--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 6--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 11--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 15--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 19--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 0--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 9--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 10--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 16--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 13--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 17--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 14--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 7--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
可以看到确实是按照时间距离排序的,第0个元素排后面去了,第1个元素排最前面来了,因为它只需要0.001秒就要执行
gearman任务分发改进的更多相关文章
- 分布式任务分发框架Gearman教程和PHP实现实例
1.Gearman介绍和使用场景 Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相 比,Gearman更偏向于任务分发功能.它的任务分布非常简单,简单得可以只需要用脚本即可完 ...
- 用 Gearman 分发 PHP 应用程序的工作负载【转载】
通过本文,了解工作分发系统 Gearman 并分发用 PHP.C.Ruby 及其他受支持语言编写的应用程序的工作负载. 尽管一个 Web 应用程序的大部分内容都与表示有关,但它的价值与竞争优势却可能体 ...
- Gearman实战第一弹:异步处理结算单
昨天梦回jm,醒来之后看着窗外万里晴空,想大声喊一句:爷青回! 我想起之前使用gearman的岁月.不知不觉也过了快5年,想总结一篇关于gearman的技术文章算是一种对青春的祭奠,再不写的话更少有p ...
- 必学PHP类库/常用PHP类库大全,php 类库分类-收集
依赖管理( Dependency Management ) 用于依赖管理的包和框架 Composer / Packagist - 一个包和依赖管理器. Composer Installers - 一个 ...
- vivo 自研Jenkins资源调度系统设计与实践
作者:vivo 互联网服务器团队- Wu Qinghua 本文从目前业界实现Jenkins的高可用的实现方案,分析各方案的优缺点,引入vivo目前使用的Jenkins高可用方案,以及目前Jenkins ...
- Gearman介绍、原理分析、实践改进
gearman是什么? 它是分布式的程序调用框架,可完成跨语言的相互调用,适合在后台运行工作任务.最初是2005年perl版本,2008年发布C/C++版本.目前大部分源码都是(Gearmand服务j ...
- 分布式的任务分发框架-Gearman
官方文档:http://gearman.org/getting-started/ 安装方法和示例都有,可以详细看一下. Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相比,G ...
- 用 Gearman 分发 PHP 应用程序的工作负载
尽管一个 Web 应用程序的大部分内容都与表示有关,但它的价值与竞争优势却可能体现在若干专有服务或算法方面.如果这类处理过于复杂或拖沓,最好是进行异步执行,以免 Web 服务器对传入的请求没有响应.实 ...
- 任务分发系统gearman
1 Gearman是什么 Gearman Job Server@http://gearman.org/. Gearman 是一个任务分发系统,它提供了一个分发框架,能够分发某类任务到更适合处理这类任务 ...
- 高CPU业务场景下的任务分发方案Gearman搭建一览
Gearman是当年LiveJournal用来做图片resize的,大家也明白图片resize是一个高CPU的操作,如果让web网站去做这个高CPU的功能,有可能会拖垮你的 web应用,那本篇我们 ...
随机推荐
- js_for循环的错误
本段代码实现的效果是遍历数组中的每个元素,给每个元素插入一个类名 for (var i = 0; i < dropdownLi.length; i++) { if(i == 1){ contin ...
- 使用FastAPI来开发项目,项目的目录结构如何规划的一些参考和基类封装的一些处理
使用FastAPI开发项目时,良好的目录结构可以帮助你更好地组织代码,提高可维护性和扩展性.同样,对基类的封装,也可以进一步减少开发代码,提供便利,并减少出错的几率. 下面是一个推荐的目录结构示例: ...
- LaTeX 交叉引用的四次编译
编译包含交叉引用的 LaTeX 文件需要编译四次(pdflatex + bibtex + pdflatex * 2),一直对这四次编译都干了什么事很好奇.这次就来看一下每一步具体都干了些什么. 源文件 ...
- python png 转 icon文件
pip install pillow from PIL import Image def png_to_ico(png_path, ico_path): img = Image.open(png_pa ...
- CIIS 2023 丨聚焦文档图像处理前沿领域,合合信息 AI 助力图像处理与内容安全保障
近日,2023第十二届中国智能产业高峰论坛(CIIS 2023)在江西南昌顺利举行.大会由中国人工智能学会.江西省科学技术厅.南昌市人民政府主办,南昌市科学技术局.中国工程科技发展战略江西研究院承办. ...
- Azure 入门系列 (外传 小知识)
数据中心地理结构 Azure 数据中心有很多,这我们知道, 但是我们还需要知道它的结构, 不然在做 Backup, Recovery Disaster 的时候会卡卡. 参考: Region, Avai ...
- Figma 学习笔记 – Comment
步骤 按 c 键 -> 点击区域 -> 写 comment -> post 它不仅仅在 design 的 page 可以写 comment 哦, 在预览 prototype 页面也是 ...
- Qt表格入门
摘要 表格作为数据展示的界面,会在很多场景下使用.Qt为我们提供了使用简单方便和扩展性强的表格视图,这里做一个简单的入门整理. 个人能力有限,有错误欢迎留言指正,如果你有更好的方法,也 ...
- 关于 B 先生
B 先生是不是要疯了,他今天说的都是他妈什么几把
- [OI] 平衡树
1. 二叉查找树 二叉查找树的思想和优先队列比较像,都是把若干个数据按一定规则插到一棵树里,然后就可以维护特定的信息. 在优先队列的大根堆实现里,我们让每棵子树的根节点都大于它的儿子,这样就可以保证根 ...