【并发】7、借助redis 实现多线程生产消费队列
1、这是第一个简单的初始化版本,看起来比使用fqueue似乎更好用
package queue.redisQueue; import queue.fqueue.vo.TempVo;
import redis.clients.jedis.Jedis; import java.io.ByteArrayOutputStream;
import java.io.IOException;
import java.io.ObjectOutputStream;
import java.io.OutputStream;
import java.util.UUID; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueProducter
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 9:44
* @Version: 1.0
*/
public class RedisQueueProducter implements Runnable { private Jedis jedis;
private String queueKey; public RedisQueueProducter(Jedis jedis, String queueKey) {
this.jedis = jedis;
this.queueKey = queueKey;
} @Override
public void run() { while(true) { try {
Thread.sleep(100); //不存在则创建,存在则直接插入
//向redis队列中存放数据
//生成数据
TempVo tempVo = new TempVo();
tempVo.setName(Thread.currentThread().getName() + ",time is:" + UUID.randomUUID());
//序列化为字节
ByteArrayOutputStream arrayOutputStream = new ByteArrayOutputStream();
ObjectOutputStream objectOutputStream = new ObjectOutputStream(arrayOutputStream);
objectOutputStream.writeObject(tempVo);
arrayOutputStream.flush(); try {
int i = 0;
while(i < 10) {
long num = jedis.lpush(queueKey.getBytes(), arrayOutputStream.toByteArray());
if(num > 0) {
System.out.println("成功!");
break;
} ++i;
}
} catch (Exception e) {
System.out.println("失败!");
// long num = jedis.lpush(queueKey.getBytes(), arrayOutputStream.toByteArray());
} } catch (Exception e) {
e.printStackTrace();
}
} }
}
消费
package queue.redisQueue; import queue.fqueue.vo.EventVo;
import redis.clients.jedis.Jedis; import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.ObjectInputStream; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueConsume
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 10:08
* @Version: 1.0
*/
public class RedisQueueConsume implements Runnable { private Jedis jedis;
private String queueKey; public RedisQueueConsume(Jedis jedis, String queueKey) {
this.jedis = jedis;
this.queueKey = queueKey;
} @Override
public void run() { while(true) {
byte bytes[] = null;
try{
bytes = jedis.lpop(queueKey.getBytes());
} catch (Exception e) { } //反序列化对象
if(bytes == null || bytes.length <= 0) {
Thread.yield();
continue;
} ByteArrayInputStream byteArrayInputStream = new ByteArrayInputStream(bytes);
try {
ObjectInputStream objectInputStream = new ObjectInputStream(byteArrayInputStream);
EventVo eventVo = (EventVo) objectInputStream.readObject(); eventVo.doOperater(); } catch (IOException e) {
e.printStackTrace();
} catch (ClassNotFoundException e) {
e.printStackTrace();
}
} }
}
测试,这里我踩了个坑,切记每个线程最好先获取一次资源,也就是
jedisPool.getResource()
不然再并发操作的时候,2个线程同时使用一个连接,会导致服务无法使用
package queue.redisQueue; import org.junit.Before;
import org.junit.Test;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig; import java.io.IOException; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueTest
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 10:09
* @Version: 1.0
*/
public class RedisQueueTest { public static JedisPool jedisPool = null;
public static Jedis jedis; @Before
public void test0() {
//静态块,初始化加载,看来fQueue并不支持多进程操作,但是多线程是支持的
try { if(jedisPool == null) {
JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
jedisPoolConfig.setMaxTotal(10000);
jedisPoolConfig.setMaxIdle(2000);
jedisPoolConfig.setMaxWaitMillis(2000);
jedisPoolConfig.setTestOnBorrow(true);
jedisPoolConfig.setTestOnReturn(true); jedisPool = new JedisPool(jedisPoolConfig, "127.0.0.1", 17399, 2000, "ZTE$soft987", 0);
} if(jedis == null) {
jedis = jedisPool.getResource();
}
} catch (Exception e) {
e.printStackTrace();
}
} @Test
public void test1() throws InterruptedException { //读写取数据
for(int i = 0; i < 5; ++i) {
System.out.println("输出测试" + i);
RedisQueueProducter producter = new RedisQueueProducter(jedisPool.getResource(), "xiaof");
Thread t = new Thread(producter);
t.start();
} while(true) {
Thread.sleep(1000);
}
} @Test
public void test2() throws InterruptedException { //读写取数据
for(int i = 0; i < 2; ++i) {
System.out.println("输出测试" + i);
//切记一定要重新获取Resource,不然无法并发操作
RedisQueueConsume fqueueConsume = new RedisQueueConsume(jedisPool.getResource(), "xiaof");
Thread t = new Thread(fqueueConsume);
t.setDaemon(true);
t.start();
} while(true) {
Thread.sleep(1000);
}
} }
结果:


【并发】7、借助redis 实现多线程生产消费队列的更多相关文章
- 【并发】8、借助redis 实现多线程生产消费阻塞队列
顾名思义这个就是再消费的时候,不是之前的那哥用yield进行线程切换的操作,而是用线程等待阻塞的方式去执行,说实话我感觉效率不一定有之前那个好, 因为我对这种阻塞队列使用的时候,之前有发现阻塞队列,塞 ...
- 【并发】6、借助FQueue 实现多线程生产消费队列
1.这里先要说一下为什么会想到fqueue,因为这个是一个轻量级的消息队列框架,并且速度很快,用起来很方便,就是这样 当然后期考虑使用redis,这里先上一个fqueue的版本,后面有时间我再吧他改成 ...
- python多线程生产消费
#!/usr/bin/env python# -*- coding: utf-8 -*- from threading import Threadfrom Queue import Queueimpo ...
- 【java并发编程】Lock & Condition 协调同步生产消费
一.协调生产/消费的需求 本文内容主要想向大家介绍一下Lock结合Condition的使用方法,为了更好的理解Lock锁与Condition锁信号,我们来手写一个ArrayBlockingQueue. ...
- redis和memcached有什么区别?redis的线程模型是什么?为什么单线程的redis比多线程的memcached效率要高得多(为什么redis是单线程的但是还可以支撑高并发)?
1.redis和memcached有什么区别? 这个事儿吧,你可以比较出N多个区别来,但是我还是采取redis作者给出的几个比较吧 1)Redis支持服务器端的数据操作:Redis相比Memcache ...
- Python并发编程-生产消费模型
生产消费模型初步 #产生两个子进程,Queue可以在子进程之间传递消息 from multiprocessing import Queue,Process import random import t ...
- kafka如何实现高并发存储-如何找到一条需要消费的数据(阿里)
阿里太注重原理了:阿里问kafka如何实现高并发存储-如何找到一条需要消费的数据,kafka用了稀疏索引的方式,使用了二分查找法,其实很多索引都是二分查找法 二分查找法的时间复杂度:O(logn) ...
- Dyno-queues 分布式延迟队列 之 生产消费
Dyno-queues 分布式延迟队列 之 生产消费 目录 Dyno-queues 分布式延迟队列 之 生产消费 0x00 摘要 0x01 前情回顾 1.1 设计目标 1.2 选型思路 0x02 产生 ...
- 测算Redis处理实际生产请求的QPS/TPS
测算Redis处理实际生产请求的QPS/TPS Benchmark工具 redis发布版本中自带了redis-benchmark性能测试工具; 示例: 使用50个并发连接,发出100000个请求,每个 ...
随机推荐
- adb-andorid记录当前手机的日志当前显示的app进程及activity,
adb logcat -v time> /home/sumsang.log adb shell dumpsys window | grep mCurrentFocus
- 创建加载bean的实例
一.创建实例 工程的结构如下图 1.创建接口 public interface Person { public void setName(String name); public String say ...
- Java实现简单RPC框架(转)
一.RPC简介 RPC,全称Remote Procedure Call, 即远程过程调用,它是一个计算机通信协议.它允许像本地服务一样调用远程服务.它可以有不同的实现方式.如RMI(远程方法调用).H ...
- Flink 之 Data Source
Data Sources 是什么呢?就字面意思其实就可以知道:数据来源. Flink 做为一款流式计算框架,它可用来做批处理,即处理静态的数据集.历史的数据集: 也可以用来做流处理,即实时的处理些实时 ...
- 微信小程序wx.uploadFile的两个坑
-- setImage:function(e){ var _this = this //坑1 wx.chooseImage({ count: , sizeType: ['original', 'com ...
- P1310 表达式的值
P1310 表达式的值 题解 1.假设有两个布尔变量 x , y x0表示使得x=0的方案数 x1表示使得x=1的方案数 y0表示使得y=0的方案数 y1表示使得y=1的方案数 | 按位或 & ...
- SNAT场景模拟
我的网络配置跟教程中的这个略有不同: web server:192.168.66.101 nat server:192.168.66.188:192.168.6.172 client:192.168. ...
- Flutter Container容器组件、Text文本组件详解
import 'package:flutter/material.dart'; void main(){ runApp(MyApp()); } class MyApp extends Stateles ...
- scons 简单入门
scons 简单入门 摘自:https://www.jianshu.com/p/e4bd3ab9e5d6 0.2042019.01.20 12:58:44字数 1201阅读 3021 简单入门 hel ...
- Qt bug
1.Qt5.2.1不支持QQuickwidget来承载qml 2.Qt5.12以及以上,不支持跨线程调用数据库连接 3.线程A不断产生sql语句,需要让两个数据库分别执行这个sql语句.所以在线程A中 ...