Gearmand 任务分发系统
简介:
Gearmand 是一个用来把工作委派给其它机器、分布式的调用更适合做某项工作的机器、并发的做某项工作在多个调用间做负载均衡、或用来调用其它语言的函数的系统。
简单来讲,就是客户端程序把请求提交给 gearmand,gearmand 会把请求转发给合适的 worker 来处理这个请求,最后还通过 gearmand 返回结果。
运行流程:
Client --> Job --> Worker
1、Client 请求发起者,客户端程序可以是任何一种语言,C 、PHP 、Perl 、Python 等。
2、Job 请求调度者,负载协调把 Client 发出的请求转发给合适的 Worker。
3、Worker 请求处理者,处理 Job 分发来的请求,可以是任何一种语言。
下载地址:https://github.com/gearman/gearmand/releases
一、安装、启动 Gearmand
1、源码编译安装( 能够安装最新版本,需要自己解决依赖 )
shell > yum -y install boost-devel gperf libevent-devel libuuid-devel shell > cd /usr/local/src
shell > tar zxf gearmand-1.1..tar.gz
shell > cd gearmand-1.1.
shell > ./configure; make; make install shell > gearmand -V
gearmand: error while loading shared libraries: libmysqlclient.so.: cannot open shared object file: No such file or directory 解决方法: shell > ln -s /usr/local/mysql-5.5./lib/libmysqlclient.so. /usr/lib64/ shell > gearmand -V
gearmand 1.1. - https://bugs.launchpad.net/gearmand shell > mkdir -p /usr/local/var/log
shell > touch /usr/local/var/log/gearmand.log shell > gearmand -L 0.0.0.0 -d # 启动 gearmand,-L 指定只监听 IPV4,-d 以守护进程的方式启动,-p port 默认 shell > killall gearmand # 停止 gearmand
2、yum 安装 gearmand( 简单、快捷,版本不是最新 )
shell > yum -y install gearmand shell > /etc/init.d/gearmand start # 启动 gearmand shell > gearmand -V
gearmand 1.1. - https://bugs.launchpad.net/gearmand shell > vim /etc/sysconfig/gearmand # 指定 gearmand 启动参数
### Settings for gearmand
OPTIONS="-p 4370 -L 0.0.0.0" shell > /etc/init.d/gearmand restart # or stop
# 如果 gearmand 要向外提供服务,需要打开监听的 TCP 端口,默认 4370
二、PHP 安装 gearmand 扩展、启动 Worker
1、安装 gearmand 扩展
shell > /usr/local/php/bin/pecl install gearman
shell > echo 'extension=gearman.so' >> /usr/local/php/php.ini
shell > /usr/local/php/bin/php -m | grep gearman
gearman
2、编写 Worker ( Worker 进程可以启动在任意一台服务器上 )
shell > vim script/worker.php
<?php
$worker= new GearmanWorker();
$worker->addServer();
$worker->addFunction("reverse", "my_reverse_function");
while ($worker->work()); function my_reverse_function($job)
{
return strrev($job->workload());
}
?>
# 这是官网的一个测试例
# $worker->addServer(); 默认连接本机 gearmand,端口 4370,地址貌似是 IPV6,因为我指定 -L 0.0.0.0 启动 gearmand 时,Worker 提示连接失败
# $worker->addServer('192.168.1.30',4370); gearmand 不在本机或不是默认端口时,需要指定
# Worker 支持连接多个 gearmand,但并不是负载均衡,只是一个备机。
3、启动 Worker
shell > /usr/local/php/bin/php script/worker.php & # Worker 进程可以启动多个,多次执行该命令即可
shell > ps aux | grep worker | grep -v grep | awk '{print $2}' | xargs -i kill {} # 停止 Worker 进程
shell > pgrep php | xargs -i kill {} # 这样也可以,或者直接 killall php,小心误杀哦
# Worker 进程管理脚本
shell > vim script/gearmand-worker.sh #!/bin/bash
# author: Wang XiaoQiang // # 设置初始启动多少个 worker 进程,默认 个
worker_num=
# 设置 worker 脚本文件路径
worker_file='/root/script/worker.php' start_worker(){
i=
while [ $i -lt $worker_num ];do
/usr/local/php/bin/php $worker_file &
let i++
done [ $? -eq ] && status_worker || echo "Start falied"
} stop_worker(){
ps aux | grep -v grep | grep 'worker.php' | awk '{print $2}' | xargs -i kill {} [ $? -eq ] && echo "Worker process stoped" || echo "Stop falied"
} status_worker(){
line=`ps aux | grep -v grep | grep 'worker.php' | wc -l`
echo "Worker process number: $line"
} main(){
$
} case $ in
start)
main start_worker ;;
stop)
main stop_worker ;;
restart)
main stop_worker
main start_worker ;;
status)
main status_worker ;;
*)
echo "Usage: sh $0 [start|stop|restart|status]" ;;
esac # End
三、编写、执行 Client ( Client 可以在任意一台服务器上 )
shell > vim script/client.php
<?php
$client= new GearmanClient();
$client->addServer('192.168.1.30',);
print $client->do("reverse", "\nHello World!");
?>
# Client 连接 gearmand,192.168.1.30,端口 4370
shell > /usr/local/php/bin/php script/client.php
!dlroW olleH
# Gearmand 进程成功将 Client 请求转发到了 Worker,执行完成后返回结果
# Client 、Gearmand 、Worker 可以部署在同一台服务器,也可以分开部署。只要保证 Client 跟 Worker 都能连接到 Gearmand 即可。
四、Gearmand 监控
# 开源项目地址:https://github.com/yugene/Gearman-Monitor
# 脚本监控、加入 Zabbix
# 先这样,等空闲的时候补上这块内容
Gearmand 任务分发系统的更多相关文章
- 使用 expect 命令执行自动分发系统
一.命令 except 实例详解 1. 介绍 expect 使用场景 expect可以让我们实现自动登录远程机器,并且可以实现自动远程执行命令.当然若是使用不带密码的密钥验证同样可以实现自动登录和自动 ...
- 基于BT协议的文件分发系统
基于BT协议的文件分发系统构成: 1.一个Web服务器:保存着种子文件 2.一个种子文件:保存共享文件的一些信息(文件名,文件大小 ,Tracker服务器地址,torrent为后缀) ...
- 任务分发系统gearman
1 Gearman是什么 Gearman Job Server@http://gearman.org/. Gearman 是一个任务分发系统,它提供了一个分发框架,能够分发某类任务到更适合处理这类任务 ...
- Django之路由分发系统
web的基本工作流程 首先,我们先来思考一下我们平常在上网浏览网页时候的场景,大致就是打开一个web浏览器,输入某一个网站的地址,然后转到该网址,在浏览器中得到该网址的页面.从这个场景中我们可以抽象出 ...
- 关于LT分发系统的设计构想
git地址 https://github.com/cxyxd/LtDistribution 背景 对tomcat做集群,在多机多tomcat的情况下,如果要更新代码,只能手动的将代码复制,粘贴,然后下 ...
- 深度解读阿里巴巴云原生镜像分发系统 Dragonfly
Dragonfly 是一个由阿里巴巴开源的云原生镜像分发系统,主要解决以 Kubernetes 为核心的分布式应用编排系统的镜像分发难题.随着企业数字化大潮的席卷,行业应用纷纷朝微服务架构演进,并通过 ...
- expect脚本同步文件 expect脚本指定host和要同步的文件 构建文件分发系统 批量远程执行命令
自动同步文件 #!/usr/bin/expect set " spawn rsync -av root@.txt /tmp/ expect { "yes/no" { se ...
- centos shell编程4【分发系统】 服务器标准化 mkpasswd 生成密码的工具 expect讲解 expect传递参数 expect自动同步文件 expect指定host和要同步的文件 expect文件分发系统 expect自动发送密钥脚本 Linux脚本执行方式 第三十八节课
centos shell编程4[分发系统] 服务器标准化 mkpasswd 生成密码的工具 expect讲解 expect传递参数 expect自动同步文件 expect指定host和要 ...
- 第四部分shell编程5项目二分发系统
第一部分:expect讲解expect可以让我们实现自动登录远程机器,并且可以实现自动远程执行命令.当然若是使用不带密码的密钥验证同样可以实现自动登录和自动远程执行命令.但当不能使用密钥验证的时候,我 ...
随机推荐
- 每天一个linux命令(目录文件操作):【转载】Linux 目录结构
对于每一个Linux学习者来说,了解Linux文件系统的目录结构,是学好Linux的至关重要的一步.,深入了解linux文件目录结构的标准和每个目录的详细功能,对于我们用好linux系统至关重要,下面 ...
- VC中键盘键的对应关系
转载:VC中如何响应键盘和鼠标事件 VC 中用 KeyPress 表示键盘响应的所有事件,包括 OnKeyDown 事件(键按下). OnKeyUp 事件(键按下后弹起)和 OnKeyPress 事件 ...
- nginx ngscript 简单使用
备注: 默认没有集成到nginx包里,需要单独安装(推荐使用动态模块的方式进行安装) 1. 安装 wget https://nginx.org/download/nginx-1.13.11.tar.g ...
- Google Chrome 总提示flash插件过期,用命令行模式解决
目标那改成:"C:\Program Files (x86)\Google\Chrome\Application\chrome.exe" --args --allow-outdate ...
- Spring Boot 入门之缓存和 NoSQL 篇(四)
原文地址:Spring Boot 入门之缓存和 NoSQL 篇(四) 博客地址:http://www.extlight.com 一.前言 当系统的访问量增大时,相应的数据库的性能就逐渐下降.但是,大多 ...
- 树的遍历——pat1043
http://pat.zju.edu.cn/contests/pat-a-practise/1043 给予N个数字组成二叉搜索树,判断这个数列是否由先序遍历得出或是镜像先序遍历得出,若是则输出相应的后 ...
- 关于如何利用Pocket CHM Pro制作帮助文档
关于如何利用Pocket CHM Pro制作帮助文档 编写人:CC阿爸 2015-4-6 今天在这里,我想与大家一起分享如何利用Pocket CHM Pro制作软件系统的帮助文档,在此做个小结,以供参 ...
- 引用 LPSTR、LPCSTR、LPTSTR、LPCTSTR、LPWSTR及LPCWSTR的意义及区别
1.ANSI(即MBCS):为多字节字符集,它是不定长表示世界文字的编码方式.ANSI表示英文字母时就和ASCII一样,但表示其他文字时就需要用多字节. 2.Unicode:用两个字节表示一个字符 ...
- linux命令ls -l的total是怎么计算出来的?
自己手写实现ls -l命令纠结了很久的地方,刚才总算搞明白了.直接上代码重要部分 long nTotalBlocks = 0; DIR* dp = opendir(dirPathName); stru ...
- 使用Apache POI操作Excel文件---在已有的Excel文件中插入一行新的数据
package org.test; import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundEx ...