带优先级的队列 - PHP实现
很久以前写的一个功能,当时需要一个优先级的队列,特用新学的swoole写了一个简单的demo,仅满足当时的需求。
功能说明:
- 完全参考httpsqs增加优先级参数level
例:
http://192.168.8.18:5555/?name=t ... a=testdata1&level=1
http://192.168.8.18:5555/?name=t ... a=testdata2&level=1
http://192.168.8.18:5555/?name=t ... a=testdata3&level=3
此时,循环调用get方法,将获取数据testdata3,testdata1,testdata2
注:get时先弹出优先级高的数据;同等优先级数据,按put的先后弹出;
用到的工具:
PHP PHP的swoole扩展
思路:
- 使用swoole扩展监听端口,接收用户传入的参数;用全局变量$info存储所有队列名、每个队列的状态信息(所有优先级、每个优先级中已读数据个数,未读数据个数)等;设置定时器,定时将info写入文件;实际数据存入文件,每个数据占一行,使用fgets按行读出;全局变量$fp保存所有打开的文件句柄,减少文件的打开次数;
优势:
使用世界上最好的语言PHP开发!
性能测试:
1:写性能:
ab -c 100 -n 10000 http://192.168.8.18:5555/?name=test\&opt=put\&data=testdata\&level=3
2:读性能
ab -c 100 -n 10000 http://192.168.8.18:5555/?name=test\&opt=get
附:基础代码
<?php
//带优化级的http队列服务
error_reporting(E_ERROR | E_WARNING | E_PARSE);
date_default_timezone_set('PRC');
$dirname = "./data/queue_"; //文件存储位置及文件名
$infodirname = "./data/info"; //存储基本信息的文件
$maxfilesize = 1024 * 1024 * 1024;//文件最大1G
$fp = array(); //打开文件的句柄
$info = array(); //存储各个队列的基本信息,get/put的位置
$infoflag = 0; //标记info是否被修改过
$tmp = file_get_contents($infodirname);//初始化,从文件中载入基本信息
!empty($tmp) && $info = unserialize($tmp); $http = new swoole_http_server("0.0.0.0", 5555);
$http->set(array(
'worker_num' => 1, //工作进程数量
));
$http->on('WorkerStart', function($http) {
$http->addtimer(10000);//增加定时器
});
$http->on('Timer', 'cronWriteInfo'); //定时将基本信息写入文件 $http->on('request', "mycallback");
$http->start(); function cronWriteInfo() { //定时写文件
global $info,$infoflag,$infodirname;
if($infoflag) { //info被修改过时,才将之写入文件
file_put_contents($infodirname, serialize($info));
}
}
function mycallback($request, $response) {
global $info, $infoflag;
if($request->server['request_uri'] == "/favicon.ico") { //过滤掉浏览器的icon请求
$response->end(" \n");
return '';
}
$infoflag = 1;
$param = $request->get;
if(empty($param['name'])) {//队列名字不能为空
$ret = "QUEUE_ERROR_QUEUENAME_EMPTY";
} else {
switch ($param['opt']) {
case 'get':
$ret = get($param['name']);
break;
case 'put':
if(($data = $param['data']) && !empty($param['data'])) {
empty($param['level']) && $param['level'] = 0;
$ret = put($param['name'], $param['data'], $param['level']);
} else {
$ret = "QUEUE_PUT_ERROR";
}
break;
case 'status':
$ret = json_encode($info);
break;
default:
$ret = "QUEUE_ERROR_PARAM";
break;
}
}
$response->end($ret."\n");
}
function get($queuename) {
global $info;
if($info[$queuename]['unread'] > 0) {
$maxlevel = $info[$queuename]['curMaxlevel']; //当前最大优化级
$pos = $info[$queuename]['leveldata'][$maxlevel]['getpos']; //文件偏移量
$data = getdataFromFile($queuename, $maxlevel, $pos); //读取数据
$ret = pack("H*", $data); //data是压缩的数据,需要解压
//修改全局变量
$info[$queuename]['get']++;
$info[$queuename]['unread']--;
$info[$queuename]['leveldata'][$maxlevel]['unread']--;
if($ret == "QUEUE_END") { //读到的数据不全,原因:数据文件大小超过最大值设置;
$data = getdataFromFile($queuename, $maxlevel, 0); //从头再读一次
$ret = pack("H*", $data); //data是压缩的数据,需要解压
$info[$queuename]['leveldata'][$maxlevel]['get'] = 1;//读取位置设为1
$info[$queuename]['leveldata'][$maxlevel]['getpos'] = strlen($data) + 1;
} else {
$info[$queuename]['leveldata'][$maxlevel]['get']++;
$info[$queuename]['leveldata'][$maxlevel]['getpos'] += strlen($data) + 1 ;
}
if($info[$queuename]['leveldata'][$maxlevel]['get'] == $info[$queuename]['leveldata'][$maxlevel]['put']) { //数据读取完毕,重新计算当前最高优先级的数据
$info[$queuename]['curMaxlevel'] = getcurMaxlevel($info[$queuename]['leveldata']);
}
return $ret;
} else {
return 'QUEUE_EMPTY';
}
}
function put($queuename, $userdata, $level) {
global $info;
if($info[$queuename]['leveldata'][$level]['put']+1 == $info[$queuename]['leveldata'][$level]['get']) { //队列写满
return "QUEUE_FULL";
}
$info[$queuename]['put']++;
$info[$queuename]['unread']++;
$newpos = setDataToFile($queuename, $level, $userdata);
$info[$queuename]['leveldata'][$level]['put']++;
$info[$queuename]['leveldata'][$level]['unread']++;
$info[$queuename]['leveldata'][$level]['putpos'] = $newpos;
$info[$queuename]['curMaxlevel'] = getcurMaxlevel($info[$queuename]['leveldata']);
return "QUEUE_PUT_OK";
} //获取当前需要执行的优先级最高的数据
function getcurMaxlevel($leveldata) {
krsort($leveldata);
foreach($leveldata as $level => $info) {
if($info['unread'] > 0) {
return $level;
}
}
return 0;
} //写数据到文件,如果文件写满,循环写入;
function setDataToFile($queuename, $level, $userdata) {
global $dirname, $maxfilesize, $fp;
$file = $dirname.$queuename.$level;
$packdata = unpack("H*", $userdata);
//$$packdata['1'] = $userdata;
$data = $packdata['1']."\n";
$size = filesize($file);
if(!$fp[$queuename][$level]) {
$fp = fopen($file, "ab+");
}
fseek($fp, $size);
fwrite($fp, $data);
clearstatcache();
if($size + strlen($data) + 1 > $maxfilesize) { //超出文件最大值,进入下一轮
fseek($fp, $size); //倒回指针
fwrite($fp, "QUEUE_END"); //写入标记符号
fseek($fp,0);//重头写
fwrite($fp, $data);
return strlen($data);
} else {
return $size + strlen($data);
}
}
//从文件中读取数据
function getdataFromFile($queuename, $level, $pos) {
global $dirname,$fp;
if(!isset($fp[$queuename][$level])) {
$file = $dirname.$queuename.$level;
$fp = fopen($file, "ab+");
}
fseek($fp, intval($pos));
return trim(fgets($fp));
}
带优先级的队列 - PHP实现的更多相关文章
- 可参数化的带优先级的数据选择器的FPGA实现方式探讨
在FPGA设计中,大部分情况下我们都得使用到数据选择器.并且为了设计参数化,可调,通常情况下我们需要一个参数可调的数据选择器,比如M选1,M是可调的参数. 如果,数据选择器是不带优先级的,我们可以使用 ...
- FPGA中带优先级的if else if与不带优先级的case的探讨
我们知道在书本上都说让我们尽量使用不带优先级的的数据选择器,今天我们就来探讨一下二者的区别. 例子1:带优先级的的数据选择器,综合成功,且没有任何警告. module detection_prio # ...
- Redis学习之实现优先级消息队列
很久没有写博客了,最近简单的学习了一下Redis,其中学习了一下用Redis实现优先级消息队列.关于更多更为详细的可以在www.redis.cn找到相关资料. 对于熟悉Redis的童鞋提到队列很自然的 ...
- RabbitMQ学习笔记五:RabbitMQ之优先级消息队列
RabbitMQ优先级队列注意点: 1.只有当消费者不足,不能及时进行消费的情况下,优先级队列才会生效 2.RabbitMQ3.5以后才支持优先级队列 代码在博客:RabbitMQ学习笔记三:Java ...
- redis+PHP实现的一个优先级去重队列
主要思路是用一个set做前端去重缓冲, 若干个list做后端的多优先级消息队列, 用一个进程来进行分发, 即从set中分发消息到队列. set缓冲的设计为当天有效, 所以有个零点问题,有可能在零点前s ...
- 自定义ThreadPoolExecutor带Queue缓冲队列的线程池 + JMeter模拟并发下单请求
.原文:https://blog.csdn.net/u011677147/article/details/80271174 拓展: https://github.com/jwpttcg66/GameT ...
- C++自带栈与队列_stack_queue_C++
栈和队列我们可以用C++里自带的函数使用,就不必手写了 1.栈,需要开头文件 #include<stack> 定义一个栈s:stack<int> s; 具体操作: s.emp ...
- rabbitmq设置消息优先级、队列优先级配置
1.首先在consume之前声明队列的时候,要加上x-max-priority属性,一般为0-255,大于255出错 -----配置队列优先级 配置成功后rabbitmq显示: 2.在向exchan ...
- poj 2828 buy Tickets 用线段树模拟带插入的队列
Buy Tickets Time Limit: 1 Sec Memory Limit: 256 MB 题目连接 http://acm.hdu.edu.cn/showproblem.php?pid=2 ...
随机推荐
- sublime 使用技巧
使用sublime使遇到的问题: 1.左侧菜单栏隐藏恢复:View ->Side Bar ->Show Side Bar 2.顶部菜单栏隐藏恢复:按住ctrl+shift+p,出现一个框, ...
- 视频 之自定义VideoView
package com.lvshandian.partylive.view;import android.content.Context;import android.util.AttributeSe ...
- Educational Codeforces Round 6 E. New Year Tree dfs+线段树
题目链接:http://codeforces.com/contest/620/problem/E E. New Year Tree time limit per test 3 seconds memo ...
- nodejs搭建http-server
很多时候我们都需要搭建一个简单的服务器,部署在IIS,阿帕奇,或者用nodejs,网上很多关于nodejs搭建server的文章,但都是要创建server.js,很麻烦, 在这里我分享一个创建ht ...
- git的一些常用方法
1.撤销add但未commit的文件: git rm -r --cached path/file 2.git 撤销commit: 2.1).git log-显示提交的历史 commit ee50348 ...
- linux 知识汇总
1 ) linux下文件系统类型的学习 2 )深入理解linux i节点(inode) 3 )RAID系列
- HDU-4525 威威猫系列故事——吃鸡腿
题意:给定一个正整数A,告知等比数列的公比为q,为这个序列能否超过一个特定的数K. 解法:该题需要考虑公比的取值,当q=1,q=-1,q=0的特殊性,由于等比数列的增长速度非常快,所以可以for循环扫 ...
- [Prodinner项目]学习分享_第二部分_Entity到DB表的映射
1.单纯映射 基本语法为 modelBuilder.Entity<InsType>().ToTable("TB_InsType"); 2.一对多映射(表关系) 实体类B ...
- Spring + Mybatis 使用 PageHelper 插件分页
原文:http://www.cnblogs.com/yucongblog/p/5330886.html 先增加maven依赖: <dependency> <groupId>co ...
- 转:VC include 路径解析
VC include 路径解析 要了解vc中使用#include命令包含头文件所搜寻的路径,必须先了解vc中的几种路径: 1. 系统路径 系统路径在vc中是"Tools->Option ...