关于 php for zookeeper
原文:Distributed application in PHP with Apache Zookeeper
地址:http://systemsarchitect.net/distributed-application-in-php-with-apache-zookeeper/
Apache Zookeeper是我最近遇到的最酷的技术,我是在研究Solr Cloud功能的时候发现的。Solr的分布式计算让我印象深刻。你只要开启一个新的实例就能自动在Solr Cloud中找到。它会将自己分派到某个分片中,并确定出自己是一个Leader(源)还是一个副本。不一会儿,你就可以在你的那些服务器上查询到了。即便某些服务器宕机了也可以继续工作。非常动态、聪明、酷。
将运行多个应用程序作为一个逻辑程序并不是什么新玩意。事实上,我在几年前就已写过类似的软件。这种架构比较让人迷惑,使用起来也费劲。为此Apache Zookeeper提供了一套工具用于管理这种软件。
为什么叫Zoo?“因为要协调的分布式系统是一个动物园”。
ZooKeeper是一个中性化的Service,用于管理配置信息、命名、提供分布式同步,还能组合Service。所有这些种类的Service都会在分布式应用程序中使用到。每次编写这些Service都会涉及大量的修bug和竞争情况。正因为这种编写这些Service有一定难度,所以通常都会忽视它们,这就使得在应用程序有变化时变得难以管理应用程序。即使处理得当,实现这些服务的不同方法也会使得部署应用程序变得难以管理。
虽然ZooKeeper是一个Java应用程序,但C也可以使用。这里就有个PHP的扩展,由Andrei Zmievski在2009创建并维护。你可以从PECL中下载,或从GitHub中直接获取PHP-ZooKeeper。
要使用该扩展你首先要安装ZooKeeper。可以从官方网站下载。
- $ tar zxfv zookeeper-3.4.8.tar.gz
- $ cd zookeeper-3.4.8/src/c
- $ ./configure --prefix=/usr/
- $ make
- $ sudo make install
这样就会安装ZooKeeper的库和头文件。现在准备编译PHP扩展。
- $ cd
- $ git clone https://github.com/andreiz/php-zookeeper.git
- $ cd php-zookeeper
- $ phpize
- $ ./configure
- $ make
- $ sudo make install
将“zookeeper.so”添加到PHP配置中。
- vim /etc/php5/cli/conf.d/20-zookeeper.ini
因为我不需要运行在web服务环境下,所以这里我只编辑了CLI的配置。将下面的行复制到ini文件中。
- extension=zookeeper.so
使用如下命令来确定扩展是否已起作用。
- $ php -m | grep zookeeper
- zookeeper
现在是时候运行ZooKeeper了。目前唯一还没有做的是配置。创建一个用于存放所有service数据的目录。
- $ mkdir /home/you-account/zoo
- $ cd
- $ cd zookeeper-3.4.5/
- $ cp conf/zoo_sample.cfg conf/zoo.cfg
- $ vim conf/zoo.cfg
找到名为“dataDir”的属性,将其指向“/home/you-account/zoo”目录。
- $ bin/zkServer.sh start
- $ bin/zkCli.sh -server 127.0.0.1:2181
- [zk: 127.0.0.1:2181(CONNECTED) 14] create /test 1
- Created /test
- [zk: 127.0.0.1:2181(CONNECTED) 19] ls /
- [test, zookeeper]
此时,你已成功连到了ZooKeeper,并创建了一个名为“/test”的znode(稍后我们会用到)。ZooKeeper以树形结构保存数据。这很类似于文件系统,但“文件夹”(译者注:这里指非最底层的节点)又和文件很像。znode是ZooKeeper保存的实体。Node(节点)的说法很容易被混淆,所以为了避免混淆这里使用了znode。
因为我们稍后还会使用,所以这里我们让客户端保持连接状态。开启一个新窗口,并创建一个zookeeperdemo1.php文件。
- <?php
- class ZookeeperDemo extends Zookeeper {
- public function watcher( $i, $type, $key ) {
- echo "Insider Watcher\n";
- // Watcher gets consumed so we need to set a new one
- $this->get( '/test', array($this, 'watcher' ) );
- }
- }
- $zoo = new ZookeeperDemo('127.0.0.1:2181');
- $zoo->get( '/test', array($zoo, 'watcher' ) );
- while( true ) {
- echo '.';
- sleep(2);
- }
现在运行该脚本:
- $ php zookeeperdemo1.php
此处应该会每隔2秒产生一个点。现在切换到ZooKeeper客户端,并更新“/test”值。
- [zk: 127.0.0.1:2181(CONNECTED) 20] set /test foo
这样就会静默触发PHP脚本中的“Insider Watcher”消息。怎么会这样的?
ZooKeeper提供了可以绑定在znode的监视器。如果监视器发现znode发生变化,该service会立即通知所有相关的客户端。这就是PHP脚本如何知道变化的。Zookeeper::get方法的第二个参数是回调函数。当触发事件时,监视器会被消费掉,所以我们需要在回调函数中再次设置监视器。
现在你可以准备创建分布式应用程序了。其中的挑战是让这些独立的程序决定哪个(是leader)协调它们的工作,以及哪些(是worker)需要执行。这个处理过程叫做leader选举,在ZooKeeper Recipes and Solutions你能看到相关的实现方法。
这里简单来说就是,每个处理(或服务器)紧盯着相邻的那个处理(或服务器)。如果一个已被监视的处理(也即Leader)退出或者崩溃了,监视程序就会查找其相邻(此时最老)的那个处理作为Leader。
在真实的应用程序中,leader会给worker分配任务、监控进程和保存结果。这里为了简化,我跳过了这些部分。
创建一个新的PHP文件,命名为worker.php:
- <?php
- class Worker extends Zookeeper {
- const CONTAINER = '/cluster';
- protected $acl = array(
- array(
- 'perms' => Zookeeper::PERM_ALL,
- 'scheme' => 'world',
- 'id' => 'anyone' ) );
- private $isLeader = false;
- private $znode;
- public function __construct( $host = '', $watcher_cb = null, $recv_timeout = 10000 ) {
- parent::__construct( $host, $watcher_cb, $recv_timeout );
- }
- public function register() {
- if( ! $this->exists( self::CONTAINER ) ) {
- $this->create( self::CONTAINER, null, $this->acl );
- }
- $this->znode = $this->create( self::CONTAINER . '/w-',
- null,
- $this->acl,
- Zookeeper::<span class="KSFIND_CLASS" id="0KSFindDIV">EPHEMER</span>AL | Zookeeper::SEQUENCE );
- $this->znode = str_replace( self::CONTAINER .'/', '', $this->znode );
- printf( "I'm registred as: %s\n", $this->znode );
- $watching = $this->watchPrevious();
- if( $watching == $this->znode ) {
- printf( "Nobody here, I'm the leader\n" );
- $this->setLeader( true );
- }
- else {
- printf( "I'm watching %s\n", $watching );
- }
- }
- public function watchPrevious() {
- $workers = $this->getChildren( self::CONTAINER );
- sort( $workers );
- $size = sizeof( $workers );
- for( $i = 0 ; $i < $size ; $i++ ) {
- if( $this->znode == $workers[ $i ] ) {
- if( $i > 0 ) {
- $this->get( self::CONTAINER . '/' . $workers[ $i - 1 ], array( $this, 'watchNode' ) );
- return $workers[ $i - 1 ];
- }
- return $workers[ $i ];
- }
- }
- throw new Exception( sprintf( "Something went very wrong! I can't find myself: %s/%s",
- self::CONTAINER,
- $this->znode ) );
- }
- public function watchNode( $i, $type, $name ) {
- $watching = $this->watchPrevious();
- if( $watching == $this->znode ) {
- printf( "I'm the new leader!\n" );
- $this->setLeader( true );
- }
- else {
- printf( "Now I'm watching %s\n", $watching );
- }
- }
- public function isLeader() {
- return $this->isLeader;
- }
- public function setLeader($flag) {
- $this->isLeader = $flag;
- }
- public function run() {
- $this->register();
- while( true ) {
- if( $this->isLeader() ) {
- $this->doLeaderJob();
- }
- else {
- $this->doWorkerJob();
- }
- sleep( 2 );
- }
- }
- public function doLeaderJob() {
- echo "Leading\n";
- }
- public function doWorkerJob() {
- echo "Working\n";
- }
- }
- $worker = new Worker( '127.0.0.1:2181' );
- $worker->run();
打开至少3个终端,在每个终端中运行以下脚本:
- # term1
- $ php worker.php
- I'm registred as: w-0000000001
- Nobody here, I'm the leader
- Leading
- # term2
- $ php worker.php
- I'm registred as: w-0000000002
- I'm watching w-0000000001
- Working
- # term3
- $ php worker.php
- I'm registred as: w-0000000003
- I'm watching w-0000000002
- Working
现在模拟Leader崩溃的情形。使用Ctrl+c或其他方法退出第一个脚本。刚开始不会有任何变化,worker可以继续工作。后来,ZooKeeper会发现超时,并选举出新的leader。
虽然这些脚本很容易理解,但是还是有必要对已使用的Zookeeper标志作注释:
- $this->znode = $this->create( self::CONTAINER . '/w-',
- null,
- $this->acl,
- Zookeeper::EPHEMERAL | Zookeeper::SEQUENCE );
每个znode都是EPHEMERAL和SEQUENCE的。
EPHEMRAL代表当客户端失去连接时移除该znode。这就是为何PHP脚本会知道超时。SEQUENCE代表在每个znode名称后添加顺序标识。我们通过这些唯一标识来标记worker。
在PHP部分还有些问题要注意。该扩展目前还是beta版,如果使用不当很容易发生segmentation fault。比如,不能传入普通函数作为回调函数,传入的必须为方法。我希望更多PHP社区的同仁可以看到Apache ZooKeeper的好,同时该扩展也会获得更多的支持。
ZooKeeper是一个强大的软件,拥有简洁和简单的API。由于文档和示例都做的很好,任何人都可以很容易的编写分布式软件。让我们开始吧,这会很有趣的。
相关连接:
- Yahoo research on ZooKeeper. 非常好的阅读材料,拥有真实的应用程序示例。如果你只要阅读一份ZooKeeper的资料,那么就是这份了。
关于 php for zookeeper的更多相关文章
- 架构设计:远程调用服务架构设计及zookeeper技术详解(下篇)
一.下篇开头的废话 终于开写下篇了,这也是我写远程调用框架的第三篇文章,前两篇都被博客园作为[编辑推荐]的文章,很兴奋哦,嘿嘿~~~~,本人是个很臭美的人,一定得要截图为证: 今天是2014年的第一天 ...
- [译]ZOOKEEPER RECIPES-Leader Election
选主 使用ZooKeeper选主的一个简单方法是,在创建znode时使用Sequence和Ephemeral标志.主要思想是,使用一个znode,比如"/election",每个客 ...
- zookeeper源码分析之六session机制
zookeeper中session意味着一个物理连接,客户端连接服务器成功之后,会发送一个连接型请求,此时就会有session 产生. session由sessionTracker产生的,sessio ...
- zookeeper源码分析之五服务端(集群leader)处理请求流程
leader的实现类为LeaderZooKeeperServer,它间接继承自标准ZookeeperServer.它规定了请求到达leader时需要经历的路径: PrepRequestProcesso ...
- zookeeper源码分析之四服务端(单机)处理请求流程
上文: zookeeper源码分析之一服务端启动过程 中,我们介绍了zookeeper服务器的启动过程,其中单机是ZookeeperServer启动,集群使用QuorumPeer启动,那么这次我们分析 ...
- zookeeper源码分析之三客户端发送请求流程
znode 可以被监控,包括这个目录节点中存储的数据的修改,子节点目录的变化等,一旦变化可以通知设置监控的客户端,这个功能是zookeeper对于应用最重要的特性,通过这个特性可以实现的功能包括配置的 ...
- zookeeper源码分析之二客户端启动
ZooKeeper Client Library提供了丰富直观的API供用户程序使用,下面是一些常用的API: create(path, data, flags): 创建一个ZNode, path是其 ...
- zookeeper源码分析之一服务端启动过程
zookeeper简介 zookeeper是为分布式应用提供分布式协作服务的开源软件.它提供了一组简单的原子操作,分布式应用可以基于这些原子操作来实现更高层次的同步服务,配置维护,组管理和命名.zoo ...
- zookeeper集群的搭建以及hadoop ha的相关配置
1.环境 centos7 hadoop2.6.5 zookeeper3.4.9 jdk1.8 master作为active主机,data1作为standby备用机,三台机器均作为数据节点,yarn资源 ...
- 如何编译Zookeeper源码
1. 安装Ant Ant下载地址:http://ant.apache.org/bindownload.cgi 解压即可. 2. 下载Zookeeper源码包 https://github.com/ap ...
随机推荐
- Maven POM 模板[z]
https://juejin.im/post/5cc826a5f265da03a33c443a [z]https://juejin.im/post/5cc826a5f265da03a33c443a S ...
- python 实验2 分支结构
该博客专为我的小伙伴们提供参考而附加,没空加上代码具体解析,望各位谅解 实验一 货币转换 写一个程序进行人民币和欧元间币值转换,其中: ...
- Elasticsearch 6.2.3版本 filtered 报错问题 no [query] registered for [filtered]
背景描述 近期在学习<Elasticsearch 权威指南>上的一些基本命令,在操作到 filtered 进行过滤查询的时候,报错 “no [query] registered for [ ...
- 2018.04.02 matplotlib 图名,图例,轴标签,轴边界,轴刻度,轴刻度标签
import numpy as np import pandas as pd import matplotlib.pyplot as plt df = pd.DataFrame(np.random.r ...
- zabbix_server调优
调整zabbix_server参数 /usr/local/zabbix/etc/zabbix_server.conf StartPollers=160 StartPollersUnreachea ...
- win server2012r2上发布网站常见错误 "HTTP 错误 500.19 请求的页面的相关配置数据无效" 解决办法
HTTP 错误 500.19 - Internal Server Error无法访问请求的页面,因为该页的相关配置数据无效. 问题“详细错误信息模块 IIS Web Core通知 BeginReque ...
- 嵌套的JsonObject与JSONArray的取值---JSON中嵌套JSONArray
在复杂的JSON数据的格式中,往往会对JSON数据进行嵌套,这样取值会比之前的取值稍微复杂一点,但是只要思路清晰,其实取法还是一样的.就跟if else语句一样,如果if中套if,if中再套if,写的 ...
- 如图 honehoneclock
如图人体时钟 honehoneclock 页面演示来自http://chabudai.org/blog/?p=59 <embed name="honehoneclock" ...
- java:多线程(代理模式,Thread中的方法,Timer,生产者和消费者)
*进程:一个正在运行的程序,进程是操作系统分配资源的基本单位,每个进行有独立的内存空间,进程之间切换开销较大. *线程:一个轻量级的进程,线程是任务调度的基本单位,一个进程可以有多个线程, * 系统没 ...
- springboot基于方法级别注解事务的多数据源切换问题
springBoot多数据源配置 配置读数据源 @Component @ConfigurationProperties(prefix = "jdbc.read") @Propert ...