Gearman是一个分发任务的程序框架,它会对作业进行排队自动分配到一系列机器上。gearman跨语言跨平台,很方便的实现异步后台任务。php官方收录:http://php.net/manual/zh/book.gearman.php

二、安装

1、安装服务器端:

官方下载,请到https://launchpad.net/gearmand

yum install boost-devel* gperf* libevent-devel* libuuid-devel
wget https://launchpad.net/gearmand/1.2/1.1.12/+download/gearmand-1.1.12.tar.gz
tar zxvf gearmand…
cd gearmand …
./configure
make && make install

安装该扩展需要先安装一些依赖,建议直接默认./configure,不要指定路径等。

常见问题1:提示找不到boost>=1.39,明明已经安装了,这里应该是没有安装gcc-c++,有的机器有gcc却不一定带有gcc-c++。yum install gcc-c++应该就可以了。

常见问题2:安装完成后启动不成功,gearmand -d或者gearmand -d -u root都启动不起来。gearmand -vvv调试模式却提示未定义选项-v。这时应该是触发gearmand新版本的bug了,查看log应该能看到“000000 [  main ] socket()(Address family not supported by protocol) -> libgearman-server/gearmand.cc:470”这个错误,解决办法是启动时添加参数-L 0.0.0.0,限定只绑定ipv4地址,忽略ipv6。或者安装不高于1.0.2的版本。参见官方反馈帖子:https://bugs.launchpad.net/gearmand/+bug/1134534

参考链接:http://www.usamurai.com/2013/05/01/install-gearman-from-source-in-centos/

2、安装gearman的php扩展

下载扩展程序:http://pecl.php.net/package/gearman

wget http://pecl.php.net/get/gearman-1.1.2.tgz
tar zxvf gearman-1….
cd gearman-1 …
phpize
./configure
make && make install

很快就安装完成,最后会展示so文件的路径,如: /usr/lib64/php/modules/

在php.ini末尾加上extension=”/usr/lib64/php/modules/gearman.so”,重启apache,输出php –info |grep “gearman”或者php -m或者网页输出phpinfo()都能看到已经安装成功。

常见问题:configure时如果提示找不到php-config,请指定。如–with-php-config=/usr/local/php/bin/php-config,注意要指定完整,不要只写目录。

三、实例

client:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
<?php
$client=newGearmanClient();
$client->addServer('127.0.0.1', 4730);//本机可以直接addServer(),默认服务器端使用4730端口
$client->setCompleteCallback('completeCallBack');//先绑定才有效
 
$result1=$client->do('say','do');//do是同步进行,进行处理并返回处理结果。
$result2=$client->doBackground('say','doBackground');//异步进行,只返回处理句柄。
$result3=$client->addTask('say','addTask');//添加任务到队列,同步进行?通过添加task可以设置回调函数。
$result4=$client->addTaskBackground('say','addTaskBackground');//添加后台任务到队列,异步进行?
$client->runTasks();//运行队列中的任务,只是do系列不需要runTask()。
 
echo'result1:';
var_dump($result1);
echo'<br/>';
 
echo'result2:';
var_dump($result2);
echo'<br/>';
 
echo'result3:';
var_dump($result3);
echo'<br/>';
 
echo'result4:';
var_dump($result4);
echo'<br/>';
 
//绑定回调函数,只对addTask有效
functioncompleteCallBack($task)
{
    echo'CompleteCallback!handle result:'.$task->data().'<br/>';
}

worker:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
<?php
$worker=newGearmanWorker();
$worker->addServer();
$worker->addFunction('say',function(GearmanJob$job){
    $workload=$job->workload();//接收client传递的数据
    echo'receive data:'.$workload.PHP_EOL;
    returnstrrev($workload);//仅作反转处理
});
 
//无际循环运行,gearman内部已有处理,不会出现占用过高死掉的情况
while($worker->work()){
    if($worker->returnCode() !== GEARMAN_SUCCESS){
        echo'error'.PHP_EOL;
    }
}

以上client输出:

CompleteCallback!handle result:ksaTdda
result1:string(2) “od”
result2:string(17) “H:iZ943bixttyZ:87″
result3:object(GearmanTask)#2 (0) { }
result4:object(GearmanTask)#3 (0) { }

worker输出:

receive data:do
receive data:doBackground
receive data:addTaskBackground
receive data:addTask

四、pcntl扩展实现粗略的多worker守护

由于worker要长驻后台时刻准备着被jobserver调用来处理job,所以worker不能死掉,网上有的解决办法是通过定时任务进行重启 worker,这应该是不错的方案。也有说进行多进程守护,但实际上php比较难实现,通过pcntl扩展是其中一种方案,主进程forck出来的子进程 来启动运行worker,相当于worker作为主进程的子进程。主进程监护着子进程,worker死掉及时启动新的一个。但如果主进程死掉呢?由于主进 程不进行什么业务处理,死掉的概率要比子进程worker死掉的概率要小不少吧。

五、linux直接运行 (这样可以防止php端运行时php挂掉无法执行)

可以现在我们的php中先写一个类:比如wxPushMsg.class  然后我们去调用它

/*get data by gearman*/
$data = file_get_contents('php://stdin');//接收gearman 传递过来的data
$data = json_decode($data, true);
$send_data = $data['data'];
$send_tmp = $data['tmp_id'];
$send_test = $data['test'];
WxPubMsg::send_batch($send_data, $send_tmp, $send_test); 控制器端调用gearman Task
$client=newGearmanClient();
$client->addServer();//本机可以直接addServer(),默认服务器端使用4730端口
$client->addTask('wx_push',json_encode($push_data));//
$client->runTasks();//运行队列中的任务,只是do系列不需要runTask()。 然后我们linux运行wxPushMsg ;
 gearman -w -f wx_push -N /home/wwwroot/domain/modules/distr/modules/classes/wxPushMsg.class.php > /dev/null 2>&1 &
 linux端查看gearman运行workes  gearman --workers
 
启动:/usr/local/sbin/gearmand -d -l /var/log/gman/gm.log
或者:gearmand -L 127.0.0.1 -p 4730 -u root -d
 
shell脚本:

#!/bin/bash
#this is for gearman worker
#@author FLY
#2016-11-08 PM
# ./gmworker.sh gmname xxx.php cmd(status,start,stop,retart)
if [ "$#" -ge 3 ]
then
echo "ready to go"
echo "name:"$1
echo "file:"$2
echo "cmd:"$3 #start ,stop,restart
else
echo "err:need 3 arguments!"
exit
fi
gname=$1
gflie=$2
cmd=$3
#start
function stratr_worker(){
name=$1
file=$2
script=$(cd `dirname $0`; pwd)'/'$file
echo "path:"$script
echo "cmd:gearman -w -f "$name" -N $script >/dev/null 2>&1 &"
eval "gearman -w -f "$name" -N $script >/dev/null 2>&1 &"
}
#kill pro
function stop_worker(){
name=$1
file=$2
declare -a list=($(ps -ef|grep "$name"|awk '{print $2}'))

for pid in "${list[@]}"
do
eval "kill -9 $pid"
# echo "kill -9 $pid"
done
#eval "for pid in ; do kill -9 $pid; done"
}
#get status
function status_worker(){
name=$1
declare -a list=($(ps -ef|grep "$name"|awk '{print $2 }'))
for worker in "${list[@]}"
do
echo "-----------------------------------------"
echo "pid:$worker `cat /proc/$worker/cmdline`"
done
}
#cmd exec
case $cmd in
"start")
stratr_worker $gname $gflie
;;
"stop")
stop_worker $gname $gfile
;;
"restart")
stop_worker $gname $gfile
stratr_worker $gname $gfile
;;
"status")
status_worker $gname $gfile
;;
*)
echo "cmd [$cmd] wrong, do nothing!"
;;
esac

跨服务器使用:

gearman -h 服务器ip -w -f task_name -N gm_worker_file_path

 
1、如果出现错误,可以在configure时指定"--with-gearman=",让php找到适合的libgearman
2、如果出现"[php_gearman.lo] Error 1"错误, 可以将"php_gearman.loT" 拷贝一个 "php_gearman.lo",然后再make
3、如果启动php的时候gearman.so无效,则gearman扩展版本要到1.1.0版本才行

gearman的安装与使用的更多相关文章

  1. gearman的安装和配置

    gearman作为并发任务管理服务,已经越来越多攻城狮在生产环境中使用了.为了日后方便部署到服务器,我写了一个shell. 一般服务器使用稳定的centos,我使用的是centos6.7. 安装she ...

  2. gearman的安装

    #gearman服务的安装与使用 #-- set -x set -e #安装开发依赖库 yum install gcc gcc-c++ make automake glibc libgomp libs ...

  3. mac机上搭建php56/nginx 1.8.x/thinkphp 3.2.x/gearman扩展/seaslog扩展/redis扩展环境

    php的各种扩展配置起来实在不容易,记录一下备忘: 一.php56 安装 虽然php7出来了,但是没用过,不知道有没有坑,这里仍然使用php5.6版本 1.1 安装php/php-pfm brew u ...

  4. 通过Gearman实现MySQL到Redis的数据同步

    对于变化频率非常快的数据来说,如果还选择传统的静态缓存方式(Memocached.File System等)展示数据,可能在缓存的存取上会有很大的开销,并不能很好的满足需要,而Redis这样基于内存的 ...

  5. 转:尝试用Gearman实现分布式处理(PHP)

    原文来自于http://blog.csdn.net/fdipzone/article/details/7166520 本文需要你已对Gearman有个大致了解. 顺便再推荐两篇参考文章http://h ...

  6. JAVA通过Gearman实现MySQL到Redis的数据同步(异步复制)

    MySQL到Redis数据复制方案 无论MySQL还是Redis,自身都带有数据同步的机制,像比较常用的 MySQL的Master/Slave模式 ,就是由Slave端分析Master的binlog来 ...

  7. 尝试用Gearman实现分布式处理(PHP)[转]

    本文需要你已对Gearman有个大致了解. 顺便再推荐两篇参考文章http://hi.baidu.com/thinkinginlamp/blog/item/ff49972b9e7378f3e6cd40 ...

  8. gearman 安装

    yum install gperfyum install libevent-develyum install libuuid-develwget https://launchpad.net/gearm ...

  9. php安装gearman扩展实现异步分步式任务

    参考: 1.小喵爱你的博客 2.PHP Manual 依赖 1.gcc44 2.boost >=1.39 3.libevent 4.php5.3+ 5.update ld.so.conf 安装依 ...

随机推荐

  1. 99_leetcode_Best Time to Buy and sell Stock

    Say you have an array for which the ith element is the price of a given stock on day i. If you were ...

  2. 动态JSP的了解

    一.JSP与HTML的根本区别 1..JSP(Java Server Page)页面是动态页,JSP页面是有JSP容器执行该页面的Java代码部分然后实时生成的HTML页面,因而说是动态页面.2..H ...

  3. Cg入门20:Fragment shader - 片段级模型动态变色(实现汽车动态换漆)

    Unity 一个面片的最大顶点数为65524,所以大于这个数,请拆分成多个面片 1.获取汽车x轴的最大值和最小值[-2.5,2.5]+R watermark/2/text/aHR0cDovL2Jsb2 ...

  4. 怎样处理Gradle中的这个文件下载慢的问题的

    如图:在build.gradle中的dependencies中加上要依赖的包后,就点击sync gradle.然后就开始了下载.在此过程中我是FQ了的(在此同时我是可以用chrome进入https:/ ...

  5. RK3288获取摄像头的Sensor ID【原创】

    平台信息:内核:linux3.0.68 系统:android/android6.0平台:RK3288 作者:庄泽彬(欢迎转载,请注明作者) 邮箱:2760715357@qq.com 说明:通过I2C总 ...

  6. Cordova 开发 App

    Cordova 是一个开源的移动开发框架.允许你用标准的 Web 技术——HTML5,CSS3 和 JavaScript 做跨平台开发.应用在每个平台的具体执行被封装了起来,并依靠符合标准的 API ...

  7. 【BZOJ 3211&3038】 花神游历各国 & 上帝造题的七分钟2

    [题目链接] [BZOJ 3211] 点击打开链接 [BZOJ 3038] 点击打开链接 [算法] 线段树 开根操作直接开到叶子节点,注意当区间中所有数都是0或1时,不需要开根 [代码] #inclu ...

  8. Flask的jinja2模板中自定义过滤器的使用

    大部分的模板引擎都是支持过滤器功能的,jinja2也不例外,它提供了丰富的内置过滤器,但是有些时候还是没办法满足我们的需求,好在jinja2支持自定义过滤器,下面是一个简单的例子. 下面的例子完成了自 ...

  9. linux centos7 安装mysql-5.7.17教程(图解)

    1系统约定安装文件下载目录:/data/softwareMysql目录安装位置:/usr/local/mysql数据库保存位置:/data/mysql日志保存位置:/data/log/mysql 2下 ...

  10. Python 返回多个值+Lambda的使用

    def MaxMin(a,b): if(a>b): return a,b else: return b,a max,min=MaxMin(8,95) print "最大值为:" ...