java实现rabbitMQ延时队列详解以及spring-rabbit整合教程
在实际的业务中我们会遇见生产者产生的消息,不立即消费,而是延时一段时间在消费。RabbitMQ本身没有直接支持延迟队列功能,但是我们可以根据其特性Per-Queue Message TTL和 Dead Letter Exchanges实现延时队列。也可以通过改特性设置消息的优先级。
1.Per-Queue Message TTL
RabbitMQ可以针对消息和队列设置TTL(过期时间)。队列中的消息过期时间(Time To Live, TTL)有两种方法可以设置。第一种方法是通过队列属性设置,队列中所有消息都有相同的过期时间。第二种方法是对消息进行单独设置,每条消息TTL可以不同。如果上述两种方法同时使用,则消息的过期时间以两者之间TTL较小的那个数值为准。消息在队列的生存时间一旦超过设置的TTL值,就成为dead message,消费者将无法再收到该消息。
2.Dead Letter Exchanges
当消息在一个队列中变成死信后,它能被重新publish到另一个Exchange。消息变成Dead Letter一向有以下几种情况:
消息被拒绝(basic.reject or basic.nack)并且requeue=false
消息TTL过期
队列达到最大长度
实际上就是设置某个队列的属性,当这个队列中有Dead Letter时,RabbitMQ就会自动的将这个消息重新发布到设置的Exchange中去,进而被路由到另一个队列,publish可以监听这个队列中消息做相应的处理,这个特性可以弥补RabbitMQ 3.0.0以前支持的immediate参数中的向publish确认的功能。
虽然 consumer 从来看不到过期的 message ,但是在过期 message 到达 queue 的头部时确实会被真正的丢弃(或者 dead-lettered )。当对每一个 queue 设置了 TTL 值时不会产生任何问题,因为过期的 message 总是会出现在 queue 的头部。当对每一条 message 设置了 TTL 时,过期的 message 可能会排队于未过期 message 的后面,直到这些消息被 consume 到或者过期了。在这种情况下,这些过期的 message 使用的资源将不会被释放,且会在 queue 统计信息中被计算进去(例如,queue 中存在的 message 的数量)。对于第一种设置队列TTL属性的方法,一旦消息过期,就会从队列中抹去,而第二种方法里,即使消息过期,也不会马上从队列中抹去,因为每条消息是否过期时在即将投递到消费者之前判定的,为什么两者得处理方法不一致?因为第一种方法里,队列中已过期的消息肯定在队列头部,RabbitMQ只要定期从队头开始扫描是否有过期消息即可,而第二种方法里,每条消息的过期时间不同,如果要删除所有过期消息,势必要扫描整个队列,所以不如等到此消息即将被消费时再判定是否过期,如果过期,再进行删除。
一、在队列上设置TTL
1.建立delay.exchange
这里Internal设置为NO,否则将无法接受dead letter,YES表示这个exchange不可以被client用来推送消息,仅用来进行exchange和exchange之间的绑定。
2.建立延时队列(delay queue)
如上配置延时5min队列(x-message-ttl=300000)
x-max-length:最大积压的消息个数,可以根据自己的实际情况设置,超过限制消息不会丢失,会立即转向delay.exchange进行投递
x-dead-letter-exchange:设置为刚刚配置好的delay.exchange,消息过期后会通过delay.exchange进行投递
这里不需要配置"dead letter routing key"否则会覆盖掉消息发送时携带的routingkey,导致后面无法路由为刚才配置的delay.exchange
3.配置延时路由规则
需要延时的消息到exchange后先路由到指定的延时队列
1)创建delaysync.exchange通过Routing key将消息路由到延时队列
2.配置delay.exchange 将消息投递到正常的消费队列
配置完成。
下面使用代码测试一下:
生产者:
- package cn.slimsmart.study.rabbitmq.delayqueue.queue;
- import java.io.IOException;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.ConnectionFactory;
- public class Producer {
- private static String queue_name = "test.queue";
- public static void main(String[] args) throws IOException {
- ConnectionFactory factory = new ConnectionFactory();
- factory.setHost("10.1.199.169");
- factory.setUsername("admin");
- factory.setPassword("123456");
- Connection connection = factory.newConnection();
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(queue_name, true, false, false, null);
- String message = "hello world!" + System.currentTimeMillis();
- channel.basicPublish("delaysync.exchange", "deal.message", null, message.getBytes());
- System.out.println("sent message: " + message + ",date:" + System.currentTimeMillis());
- // 关闭频道和连接
- channel.close();
- connection.close();
- }
- }
消费者:
- package cn.slimsmart.study.rabbitmq.delayqueue.queue;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.ConnectionFactory;
- import com.rabbitmq.client.QueueingConsumer;
- public class Consumer {
- private static String queue_name = "test.queue";
- public static void main(String[] args) throws Exception {
- ConnectionFactory factory = new ConnectionFactory();
- factory.setHost("10.1.199.169");
- factory.setUsername("admin");
- factory.setPassword("123456");
- Connection connection = factory.newConnection();
- Channel channel = connection.createChannel();
- // 声明队列
- channel.queueDeclare(queue_name, true, false, false, null);
- QueueingConsumer consumer = new QueueingConsumer(channel);
- // 指定消费队列
- channel.basicConsume(queue_name, true, consumer);
- while (true) {
- // nextDelivery是一个阻塞方法(内部实现其实是阻塞队列的take方法)
- QueueingConsumer.Delivery delivery = consumer.nextDelivery();
- String message = new String(delivery.getBody());
- System.out.println("received message:" + message + ",date:" + System.currentTimeMillis());
- }
- }
- }
二、在消息上设置TTL
实现代码:
生产者:
- package cn.slimsmart.study.rabbitmq.delayqueue.message;
- import java.io.IOException;
- import java.util.HashMap;
- import com.rabbitmq.client.AMQP;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.ConnectionFactory;
- public class Producer {
- private static String queue_name = "message_ttl_queue";
- public static void main(String[] args) throws IOException {
- ConnectionFactory factory = new ConnectionFactory();
- factory.setHost("10.1.199.169");
- factory.setUsername("admin");
- factory.setPassword("123456");
- Connection connection = factory.newConnection();
- Channel channel = connection.createChannel();
- HashMap<String, Object> arguments = new HashMap<String, Object>();
- arguments.put("x-dead-letter-exchange", "amq.direct");
- arguments.put("x-dead-letter-routing-key", "message_ttl_routingKey");
- channel.queueDeclare("delay_queue", true, false, false, arguments);
- // 声明队列
- channel.queueDeclare(queue_name, true, false, false, null);
- // 绑定路由
- channel.queueBind(queue_name, "amq.direct", "message_ttl_routingKey");
- String message = "hello world!" + System.currentTimeMillis();
- // 设置延时属性
- AMQP.BasicProperties.Builder builder = new AMQP.BasicProperties.Builder();
- // 持久性 non-persistent (1) or persistent (2)
- AMQP.BasicProperties properties = builder.expiration("300000").deliveryMode(2).build();
- // routingKey =delay_queue 进行转发
- channel.basicPublish("", "delay_queue", properties, message.getBytes());
- System.out.println("sent message: " + message + ",date:" + System.currentTimeMillis());
- // 关闭频道和连接
- channel.close();
- connection.close();
- }
- }
消费者:
- package cn.slimsmart.study.rabbitmq.delayqueue.message;
- import java.util.HashMap;
- import com.rabbitmq.client.Channel;
- import com.rabbitmq.client.Connection;
- import com.rabbitmq.client.ConnectionFactory;
- import com.rabbitmq.client.QueueingConsumer;
- public class Consumer {
- private static String queue_name = "message_ttl_queue";
- public static void main(String[] args) throws Exception {
- ConnectionFactory factory = new ConnectionFactory();
- factory.setHost("10.1.199.169");
- factory.setUsername("admin");
- factory.setPassword("123456");
- Connection connection = factory.newConnection();
- Channel channel = connection.createChannel();
- HashMap<String, Object> arguments = new HashMap<String, Object>();
- arguments.put("x-dead-letter-exchange", "amq.direct");
- arguments.put("x-dead-letter-routing-key", "message_ttl_routingKey");
- channel.queueDeclare("delay_queue", true, false, false, arguments);
- // 声明队列
- channel.queueDeclare(queue_name, true, false, false, null);
- // 绑定路由
- channel.queueBind(queue_name, "amq.direct", "message_ttl_routingKey");
- QueueingConsumer consumer = new QueueingConsumer(channel);
- // 指定消费队列
- channel.basicConsume(queue_name, true, consumer);
- while (true) {
- // nextDelivery是一个阻塞方法(内部实现其实是阻塞队列的take方法)
- QueueingConsumer.Delivery delivery = consumer.nextDelivery();
- String message = new String(delivery.getBody());
- System.out.println("received message:" + message + ",date:" + System.currentTimeMillis());
- }
- }
- }
spring-rabbit整合教程
maven依赖:
- <dependency>
- <groupId>org.springframework.amqp</groupId>
- <artifactId>spring-rabbit</artifactId>
- <version>1.4.6.RELEASE</version>
- </dependency>
spring配置文件(在文件头部引入rabbit的命名空间和约束文件):
- <?xml version="1.0" encoding="UTF-8"?>
- <beans xmlns="http://www.springframework.org/schema/beans"
- xmlns:aop="http://www.springframework.org/schema/aop"
- xmlns:context="http://www.springframework.org/schema/context"
- xmlns:mvc="http://www.springframework.org/schema/mvc"
- xmlns:task="http://www.springframework.org/schema/task"
- xmlns:tx="http://www.springframework.org/schema/tx"
- xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
- xmlns:rabbit="http://www.springframework.org/schema/rabbit"
- xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd
- http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd
- http://www.springframework.org/schema/mvc http://www.springframework.org/schema/mvc/spring-mvc.xsd
- http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop.xsd
- http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx.xsd
- http://www.springframework.org/schema/rabbit http://www.springframework.org/schema/rabbit/spring-rabbit.xsd
- http://www.springframework.org/schema/task http://www.springframework.org/schema/task/spring-task-3.0.xsd">
- <!-- 定义Rabbit,指定连接工厂 -->
- <rabbit:connection-factory id="connectionFactory" host="你的rabbitMQ服务的ip" virtual-host="/vhost名称" username="用户名" password="密码" port="5672" />
- <!-- MQ的管理,包括队列、交换器等 -->
- <rabbit:admin connection-factory="connectionFactory"/>
- <!-- 定义Rabbit模板,指定连接工厂以及定义exchange -->
- <rabbit:template id="amqpTemplate" exchange="my_exchange" connection-factory="connectionFactory" />
- <!-- queue 队列声明 -->
- <!-- durable 是否持久化 ,exclusive 仅创建者可以使用的私有队列,断开后自动删除 ,auto-delete 当所有消费端连接断开后,是否自动删除队列 -->
- <rabbit:queue name="my_queue" durable="true" auto-delete="false" exclusive="false"/>
- <!-- 交换机定义 -->
- <!-- direct-exchange 模式:消息与一个特定的路由器完全匹配,才会转发; topic-exchange 模式:按规则转发消息,最灵活 -->
- <rabbit:topic-exchange name="my_exchange" durable="true" auto-delete="false">
- <rabbit:bindings>
- <!-- 设置消息Queue匹配的pattern (direct模式为key) -->
- <rabbit:binding queue="my_queue" pattern="my_patt"/>
- </rabbit:bindings>
- </rabbit:topic-exchange>
- <!-- 引入消费者 -->
- <bean id="rabbitmqService" class="com.group.service.RabbitmqService" />
- <!-- 配置监听 消费者 acknowledeg = manual,auto,none -->
- <rabbit:listener-container connection-factory="connectionFactory" acknowledge="auto" >
- <!-- queues 监听队列,多个用逗号分隔; ref 监听器 -->
- <rabbit:listener queue-names="my_queue" ref="rabbitmqService" method="test"/>
- </rabbit:listener-container>
- </beans>
那么在项目中装配amqpTemplate中就可以发送消息了
java实现rabbitMQ延时队列详解以及spring-rabbit整合教程的更多相关文章
- RabbitMQ,Apache的ActiveMQ,阿里RocketMQ,Kafka,ZeroMQ,MetaMQ,Redis也可实现消息队列,RabbitMQ的应用场景以及基本原理介绍,RabbitMQ基础知识详解,RabbitMQ布曙
消息队列及常见消息队列介绍 2017-10-10 09:35操作系统/客户端/人脸识别 一.消息队列(MQ)概述 消息队列(Message Queue),是分布式系统中重要的组件,其通用的使用场景可以 ...
- RabbitMQ基础知识详解
什么是MQ? MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法.MQ是消费-生产者模型的一个典型的代表,一端往消息队列中不断写入消息,而另一端则可以读取队列中 ...
- Java虚拟机之垃圾回收详解一
Java虚拟机之垃圾回收详解一 Java技术和JVM(Java虚拟机) 一.Java技术概述: Java是一门编程语言,是一种计算平台,是SUN公司于1995年首次发布.它是Java程序的技术基础,这 ...
- (转)Java并发包基石-AQS详解
背景:之前在研究多线程的时候,模模糊糊知道AQS这个东西,但是对于其内部是如何实现,以及具体应用不是很理解,还自认为多线程已经学习的很到位了,贻笑大方. Java并发包基石-AQS详解Java并发包( ...
- java对象池commons-pool-1.6详解(一)
自己的项目中用到了 对象池 commons-pool: package com.sankuai.qcs.regulation.protocol.client; import com.dianping. ...
- Java网络编程和NIO详解8:浅析mmap和Direct Buffer
Java网络编程与NIO详解8:浅析mmap和Direct Buffer 本系列文章首发于我的个人博客:https://h2pl.github.io/ 欢迎阅览我的CSDN专栏:Java网络编程和NI ...
- Java网络编程和NIO详解9:基于NIO的网络编程框架Netty
Java网络编程和NIO详解9:基于NIO的网络编程框架Netty 转自https://sylvanassun.github.io/2017/11/30/2017-11-30-netty_introd ...
- Java网络编程和NIO详解7:浅谈 Linux 中NIO Selector 的实现原理
Java网络编程和NIO详解7:浅谈 Linux 中NIO Selector 的实现原理 转自:https://www.jianshu.com/p/2b71ea919d49 本系列文章首发于我的个人博 ...
- Java网络编程和NIO详解6:Linux epoll实现原理详解
Java网络编程和NIO详解6:Linux epoll实现原理详解 本系列文章首发于我的个人博客:https://h2pl.github.io/ 欢迎阅览我的CSDN专栏:Java网络编程和NIO h ...
随机推荐
- vue 踩坑-事件修饰符
(1).stop // 阻止事件继续传播 即阻止冒泡过程 (2).prevent //阻止默认事件发生 即event.preventdefault(): 实例: 阻止了a标签的默认刷新 (3).cap ...
- Java学习路线(转)
原文:http://www.hollischuang.com/archives/489 一.基础篇 1.1 JVM 1.1.1. Java内存模型,Java内存管理,Java堆和栈,垃圾回收 http ...
- YCSB性能测试工具使用(转)
在网上查In-Memory NoSQL性能测试的资料时,偶然间发现了这个性能测试工具YCSB,全称为“Yahoo! Cloud Serving Benchmark”.它内置了对常见NoSQL数据库和数 ...
- spark1.6.1 on yarn搭建部署
注:本文是建立在hadoop已经搭建完成的基础上进行的. Apache Spark是一个分布式计算框架,旨在简化运行于计算机集群上的并行程序的编写.该框架对资源调度,任务的提交.执行和跟踪,节点间的通 ...
- linux 时间相关的一些总结
仅作为内核代码中时间管理模块的笔记,3.10内核,很乱,不喜勿喷. 先有time,后有timer. 常用的time结构有哪些?除了大名鼎鼎的jiffies和jiffies64之外,还有常用的一些结构如 ...
- Extjs4 上传图片并进行图片格式以及大小验证
在做项目是遇到上传图片,并在前端限制图片上传的大小,下面就直接贴出主要的上传图片的代码,以及图片大小的验证,但前端没有验证图片的宽高验证 一.先创建出上传图片的组件,使用filefield组件 var ...
- 全面对比T-SQL与PL/SQL
1)数据类型 TSQL PL/SQL numeric(p,s) numeric(p,s) or NUMBER(p,s) decimal(p,s) decimal(p,s) or NUMBER(p,s) ...
- 国内Maven仓库 - 2018年5月2日15:54:10
<mirrors> <mirror> <id>alimaven</id> <name>aliyun maven</name> & ...
- Java文件上传:Restful接口接收上传文件,缓存在本地
接口代码 import lombok.extern.slf4j.Slf4j; import org.springframework.web.bind.annotation.PostMapping; i ...
- 根据获取的窗口句柄遍历窗口Edit控件
网上说遍历窗口控件有两种方法: 1),使用EnumChildWindows,没有深究, 学习网址如下:http://blog.sina.com.cn/s/blog_60ac1c4b010116 ...