gearman任务分发改进
基于我上次在这里发现的问题,就是一次性投递20个消息,用sleep等待后发现,最后一个任务需要等前面19个都跑完才能执行,所以这里做一下改进。
client.php
<?php
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
for ($i=0; $i < 20; $i++) {
$ret[$i] = $client->doBackground('runLaterJob', json_encode(array(
'uid' => 'test user id '.$i,
'title' => '添加一个需要延时处异步执行的代码标题',
'body' => '执行这个异步的具体内容',
'run_time' => time() + 2,
)));
}
worker.php
<?php $worker = new GearmanWorker();
$worker->addServer('127.0.0.1', 4730);
$worker->addFunction('runLaterJob', function($job) {
$data = json_decode($job->workload(), true);
if (isset($data['run_time']) && $data['run_time'] > time()) {
// 如果需要延时还没到时间就下次再处理
add_work($data);
}
else {
echo "处理任务 uid:{$data['uid']}--title:{$data['title']}--body:{$data['body']} 成功\n";
}
});
while($worker->work()); function add_work($data = []) {
$client = get_client();
$client->doBackground('runLaterJob', json_encode($data));
} function get_client() {
static $client = NULL;
if (!$client) {
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
}
return $client;
}
核心思路是,加入任务的时候就计算好自己什么时候执行,然后在执行任务这里不断的判断是不是到时间了 到时间就执行,否则就再次加入任务,这样就能避免最后一个任务被sleep给阻塞住了。虽然这里一直加入任务感觉会很傻瓜,不过可以稍微做个改进,用usleep(1000)这样每毫秒去跑一次,这样就既能控制在毫秒级别,又能减轻循环压力。
说干就干,接下来是改进的代码。
client.php
<?php
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
$sleep_time = [2, 0.001, 0.005, 0.8, 0.007, 0.5, 1, 5, 0.1, 2, 2.03, 1.24, 0.12, 3.08, 4.77, 1.42, 2.69, 3.49, 0.29, 1.99];
for ($i=0; $i < 20; $i++) {
$ret[$i] = $client->doBackground('runLaterJob', json_encode(array(
'uid' => 'test user id '.$i,
'title' => '添加一个需要延时处异步执行的代码标题',
'body' => '执行这个异步的具体内容',
'run_time' => microtime(true) + $sleep_time[$i],
)));
}
worker.php
<?php $worker = new GearmanWorker();
$worker->addServer('127.0.0.1', 4730);
$worker->addFunction('runLaterJob', function($job) {
$data = json_decode($job->workload(), true);
if (isset($data['run_time']) && $data['run_time'] > microtime(true)) {
// 如果需要延时还没到时间就下次再处理
usleep(1000);
add_work($data);
}
else {
echo "处理任务 uid:{$data['uid']}--title:{$data['title']}--body:{$data['body']} 成功\n";
}
});
while($worker->work()); function add_work($data = []) {
$client = get_client();
$client->doBackground('runLaterJob', json_encode($data));
} function get_client() {
static $client = NULL;
if (!$client) {
$client = new GearmanClient();
$client->addServer('127.0.0.1', 4730);
}
return $client;
}
运行php worker.php
然后新开一个终端运行php client.php
控制台打印结果为
处理任务 uid:test user id 1--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 2--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 4--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 8--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 12--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 18--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 5--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 3--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 6--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 11--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 15--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 19--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 0--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 9--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 10--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 16--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 13--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 17--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 14--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
处理任务 uid:test user id 7--title:添加一个需要延时处异步执行的代码标题--body:执行这个异步的具体内容 成功
可以看到确实是按照时间距离排序的,第0个元素排后面去了,第1个元素排最前面来了,因为它只需要0.001秒就要执行
gearman任务分发改进的更多相关文章
- 分布式任务分发框架Gearman教程和PHP实现实例
1.Gearman介绍和使用场景 Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相 比,Gearman更偏向于任务分发功能.它的任务分布非常简单,简单得可以只需要用脚本即可完 ...
- 用 Gearman 分发 PHP 应用程序的工作负载【转载】
通过本文,了解工作分发系统 Gearman 并分发用 PHP.C.Ruby 及其他受支持语言编写的应用程序的工作负载. 尽管一个 Web 应用程序的大部分内容都与表示有关,但它的价值与竞争优势却可能体 ...
- Gearman实战第一弹:异步处理结算单
昨天梦回jm,醒来之后看着窗外万里晴空,想大声喊一句:爷青回! 我想起之前使用gearman的岁月.不知不觉也过了快5年,想总结一篇关于gearman的技术文章算是一种对青春的祭奠,再不写的话更少有p ...
- 必学PHP类库/常用PHP类库大全,php 类库分类-收集
依赖管理( Dependency Management ) 用于依赖管理的包和框架 Composer / Packagist - 一个包和依赖管理器. Composer Installers - 一个 ...
- vivo 自研Jenkins资源调度系统设计与实践
作者:vivo 互联网服务器团队- Wu Qinghua 本文从目前业界实现Jenkins的高可用的实现方案,分析各方案的优缺点,引入vivo目前使用的Jenkins高可用方案,以及目前Jenkins ...
- Gearman介绍、原理分析、实践改进
gearman是什么? 它是分布式的程序调用框架,可完成跨语言的相互调用,适合在后台运行工作任务.最初是2005年perl版本,2008年发布C/C++版本.目前大部分源码都是(Gearmand服务j ...
- 分布式的任务分发框架-Gearman
官方文档:http://gearman.org/getting-started/ 安装方法和示例都有,可以详细看一下. Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相比,G ...
- 用 Gearman 分发 PHP 应用程序的工作负载
尽管一个 Web 应用程序的大部分内容都与表示有关,但它的价值与竞争优势却可能体现在若干专有服务或算法方面.如果这类处理过于复杂或拖沓,最好是进行异步执行,以免 Web 服务器对传入的请求没有响应.实 ...
- 任务分发系统gearman
1 Gearman是什么 Gearman Job Server@http://gearman.org/. Gearman 是一个任务分发系统,它提供了一个分发框架,能够分发某类任务到更适合处理这类任务 ...
- 高CPU业务场景下的任务分发方案Gearman搭建一览
Gearman是当年LiveJournal用来做图片resize的,大家也明白图片resize是一个高CPU的操作,如果让web网站去做这个高CPU的功能,有可能会拖垮你的 web应用,那本篇我们 ...
随机推荐
- vue动态绑定样式
每次点击方块时通过三元表达式,改变对应的class,每一个不同的class对应不同的样式,从而通过改变class实现样式的切换. 实现代码 <template> <div class ...
- ES6中的Set数据结构
Set是ES6新推出的数据结构,Set结构里面的每个元素都是唯一的: 如何创建一个Set? // Set 构造函数接收一个数组进行初始化;如果什么都不传则创建一个空Set; var set = new ...
- AI假图检测:Deepfake层出不穷,怎么才能“有图有真相”?
随着AIGC技术的迅猛发展,互联网上涌现出各种逼真的篡改照片和视频."有图有真相"已经成为历史.而证件.票据.账单.流水等文件P图这些更为常见的伪造活动,也在AI技术的加持下如虎添 ...
- Angular 18+ 高级教程 – Reactive Forms
前言 上一篇的 Ajax 和这一篇的表单 (Form) 都是前端最最最常见的需求. 为此,Angular 分别提供了两个小型库来帮助开发者实现这些需求: Ajax – HttpClient Form ...
- EF Core – 8.0 new features
参考 Docs – What's New in EF Core 8 Support DateOnly and TimeOnly SQL Server 早在 2008 年就已经支持 date 和 tim ...
- angular cli, vs code liveserver, vs 2019 iis express 10, vs code kestrel 使用 https + ip
更新: 2022-03-20 修订版: Vs Code, Visual Studio 2022, Angular and Live Server Running Through Https and I ...
- Google Aviator Evaluator 使用入门(一)
Aviator Evaluator 使用入门(一) https://www.yuque.com/boyan-avfmj/aviatorscript/tvahat 一.什么是规则引擎 定义:规则引擎是一 ...
- IDEA更改远程git仓库地址
前言 我们在使用IDEA开发时,一般会配置好对应的git仓库,这样就比较容易对代码进行控制以及协同开发. 但有时候,我们远程的仓库地址由于这样那样的原因,需要迁移(这在爱折腾的企业是常有的事情). ...
- JNI和HAL 的区别
JNI (Java Native Interface) 和 HAL (Hardware Abstraction Layer) 在 Android 系统中都扮演着与本地代码交互的重要角色,但它们的功能和 ...
- AMBA总线协议(一)——一文看懂APB总线协议
0.AMBA总线概括 AMBA(Advanced Microcontroller Bus Architecture) 总线是由ARM公司提出的一种开放性的片上总线标准,它独立于处理器和工艺技术,具有高 ...