【SpringBoot整合系列】SpringBoot整合RabbitMQ-消息过期(死信队列和延迟队列)

发布于:2024-05-17 ⋅ 阅读:(141) ⋅ 点赞:(0)

业务场景

以电商抢购为例,用户下单后30分钟内未完成支付,则取消订单

传统轮询

在这里插入图片描述

消息队列

在这里插入图片描述

完整版

在这里插入图片描述

默认情况

  • 默认情况下,消息是不会过期的,也就是我们平日里在消息发送时,如果不设置任何消息过期的相关参数,那么消息是不会过期的,
  • 即使消息没被消费掉,也会一直存储在队列中。

TTL(消息的有效期)

  • TTL(Time-To-Live),消息存活的时间,即消息的有效期。如果我们希望消息能够有一个存活时间,那么我们可以通过设置 TTL 来实现这一需求。
  • 如果消息的存活时间超过了 TTL 并且还没有被消息,此时消息就会变成死信

TTL 的设置有两种不同的方式

  1. 在声明队列的时候,我们可以在队列属性中设置消息的有效期,这样所有进入该队列的消息都会有一个相同的有效期。
  2. 在发送消息的时候设置消息的有效期,这样不同的消息就具有不同的有效期。
  3. 如果两个都设置了就以时间短的为准。

当我们设置了消息有效期后,消息过期了就会被从队列中删除了(进入到死信队列),但是两种方式对应的删除时机有一些差异
4. 对于第一种方式,当消息队列设置过期时间的时候,那么消息过期了就会被删除,因为消息进入 RabbitMQ 后是存在一个消息队列中,队列的头部是最早要过期的消息,所以 RabbitMQ 只需要一个定时任务,从头部开始扫描是否有过期消息,有的话就直接删除。
5. 对于第二种方式,当消息过期后并不会立马被删除,而是当消息要投递给消费者的时候才会去删除,因为第二种方式,每条消息的过期时间都不一样,想要知道哪条消息过期,必须要遍历队列中的所有消息才能实现,当消息比较多时这样就比较耗费性能,因此对于第二种方式,当消息要投递给消费者的时候才去删除

单条消息过期

  1. 依赖

    		<dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-amqp</artifactId>
            </dependency>
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-web</artifactId>
            </dependency>
    
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-test</artifactId>
                <scope>test</scope>
            </dependency>
            <dependency>
                <groupId>org.springframework.amqp</groupId>
                <artifactId>spring-rabbit-test</artifactId>
                <scope>test</scope>
            </dependency>
    
            <dependency>
                <groupId>org.projectlombok</groupId>
                <artifactId>lombok</artifactId>
                <optional>true</optional>
            </dependency>
    
  2. 配置

    server:
      port: 8888
    spring:
      rabbitmq:
        host: 192.168.29.200
        port: 5672
        username: admin
        password: admin
        virtual-host: /
    
  3. 配置队列

    @Configuration
    public class QueueConfig {
        //首先配置一个消息队列,new 一个 Queue:第一个参数是消息队列的名字;第二个参数表示消息是否持久化;第三个参数表示消息队列是否排他,一般我们都是设置为 false,即不排他;第四个参数表示如果该队列没有任何订阅的消费者的话,该队列会被自动删除,一般适用于临时队列。
    	//配置一个 DirectExchange 交换机。
    	//将交换机和队列绑定到一起。
        public static final String MQ_QUEUE_DEMO = "mq_queue_demo";
        public static final String MQ_EXCHANGE_DEMO = "mq_exchange_demo";
        public static final String HELLO_ROUTING_KEY = "hello_routing_key";
    
        @Bean
        public Queue queue() {
            return new Queue(MQ_QUEUE_DEMO, true, false, false);
        }
    
        @Bean
        public DirectExchange directExchange() {
            return new DirectExchange(MQ_EXCHANGE_DEMO, true, false);
        }
    
        @Bean
        public Binding binding() {
            return BindingBuilder.bind(queue())
                    .to(directExchange())
                    .with(HELLO_ROUTING_KEY);
        }
    }
    

关于排他性

  • 如果设置为 true,则该消息队列只有创建它的 Connection 才能访问,其他的 Connection 都不能访问该消息队列
  • 如果试图在不同的连接中重新声明或者访问排他性队列,那么系统会报一个资源被锁定的错误。
  • 另一方面,对于排他性队列而言,当连接断掉的时候,该消息队列也会自动删除(无论该队列是否被声明为持久性队列都会被删除)
  1. 生产消息发送
    @RestController
    public class SendController {
        @Resource
        private RabbitTemplate rabbitTemplate;;
        @RequestMapping("/send")
        public String send() {
        	//在创建 Message 对象的时候我们可以设置消息的过期时间,这里设置消息的过期时间为 10 秒
            Message message = MessageBuilder.withBody("hello rabbitmq".getBytes())
                    .setExpiration("10000")
                    .build();
            rabbitTemplate.convertAndSend(QueueConfig.MQ_QUEUE_DEMO, message);
            return "send success";
        }
    }
    
  2. 启动项目,进行消息发送测试。当消息发送成功之后,由于没有消费者,所以这条消息并不会被消费。打开 RabbitMQ 管理页面,点击到 Queues 选项卡,10s 之后,会发现消息已经不见了
    在这里插入图片描述

单条消息设置过期时间,就是在消息发送的时候设置一下消息有效期即可。

队列消息过期

  1. 给队列设置消息过期时间:配置类修改队列设置

        @Bean
        public Queue queue() {
            Map<String, Object> args = new HashMap<>();
            args.put("x-message-ttl", 10000);
            return new Queue(MQ_QUEUE_DEMO, true, false, false, args);
        }
    
  2. 修改消息的发送逻辑

    @RestController
    public class SendController {
        @Resource
        private RabbitTemplate rabbitTemplate;;
        @RequestMapping("/send")
        public String send() {
            //在创建 Message 对象的时候我们可以设置消息的过期时间,这里设置消息的过期时间为 10 秒
            /*Message message = MessageBuilder.withBody("hello rabbitmq".getBytes())
                    .setExpiration("10000")
                    .build();
            rabbitTemplate.convertAndSend(QueueConfig.MQ_QUEUE_DEMO, message);*/
            Message message = MessageBuilder.withBody("hello rabbitmq".getBytes())
                    .build();
            rabbitTemplate.convertAndSend(QueueConfig.MQ_QUEUE_DEMO, message);
            return "send success";
        }
    }
    
  3. 启动项目,发送一条消息进行测试。查看 RabbitMQ 管理页面
    在这里插入图片描述
    可以看到,消息队列的 Features 属性为 D 和 TTL,D 表示消息队列中消息持久化,TTL 则表示消息会过期。10s 之后刷新页面,发现消息数量已经恢复为 0。

这就是给消息队列设置消息过期时间,一旦设置了,所有进入到该队列的消息都有一个过期时间了

特殊情况

  • 还有一种特殊情况,就是将消息的过期时间 TTL 设置为 0,这表示如果消息不能立马消费则会被立即丢掉,这个特性可以部分替代 RabbitMQ3.0 以前支持的 immediate 参数
  • 之所以所部分代替,是因为 immediate 参数在投递失败会有 basic.return 方法将消息体返回(这个功能可以利用死信队列来实现)

死信队列

概述

  • producer 将消息投递到 broker 或者直接到 queue 里了,consumer 从 queue 取出消息进行消费,但某些时候由于特定的原因导致 queue 中的某些消息无法被消费,这样的消息如果没有后续的处理,就变成了死信,所有的死信就组成了死信队列。

应用场景

  • 为了保证订单业务的消息数据不丢失,需要使用到 RabbitMQ 的死信队列机制,当消息消费发生异常时,将消息投入死信队列中。

产生原因

  • 消息 TTL 过期(单位)
  • 队列达到最大长度(队列满了,无法再添加数据到 mq 中)
  • 消息被拒绝(basic.reject 或 basic.nack)并且 requeue=false

原理图

在这里插入图片描述

  • 问题:被删除的消息去哪了?真的被删除了吗?

死信交换机

  • 死信交换机,Dead-Letter-Exchange 即 DLX。

  • 死信交换机用来接收死信消息(Dead Message)的,那什么是死信消息呢?一般消息变成死信消息有如下几种情况:

    • 消息被拒绝(Basic.Reject/Basic.Nack) ,井且设置requeue 参数为false
    • 消息过期
    • 队列达到最大长度0
  • 当消息在一个队列中变成了死信消息后,此时就会被发送到 DLX,绑定 DLX 的消息队列则称为死信队列。

  • DLX 本质上也是一个普普通通的交换机,我们可以为任意队列指定 DLX,当该队列中存在死信时,RabbitMQ 就会自动的将这个死信发布到 DLX 上去,进而被路由到另一个绑定了 DLX 的队列上(即死信队列)。

死信队列

  • 绑定了死信交换机的队列就是死信队列

实现一下

  1. 创建一个死信交换机,一个死信队列,再将死信交换机和死信队列绑定到一起

  2. 为消息队列配置死信交换机
    x-dead-letter-exchange:配置死信交换机。
    x-dead-letter-routing-key:配置死信 routing_key。

    将来发送到这个消息队列上的消息,如果发生了 nack、reject 或者过期等问题,就会被发送到 DLX 上,进而进入到与 DLX 绑定的消息队列上

    @Configuration
    public class RabbitConfig {
        public static final String DLX_EXCHANGE_NAME = "dlx_exchange_name";
        public static final String DLX_QUEUE_NAME = "dlx_queue_name";
        public static final String DLX_ROUTING_KEY = "dlx_routing_key";
        public static final String MQ_QUEUE_DEMO = "mq_queue_demo";
        public static final String MQ_EXCHANGE_NAME = "mq_exchange_name";
        public static final String MQ_ROUTING_KEY = "mq_routing_key";
        /**
         * 配置死信交换机
         * @return
         */
        @Bean
        public DirectExchange dlxDirectExchange() {
            return new DirectExchange(DLX_EXCHANGE_NAME, true, false);
        }
        /**
         * 配置死信队列
         * @return
         */
        @Bean
        public Queue dlxQueue() {
            return new Queue(DLX_QUEUE_NAME);
        }
        /**
         * 绑定死信队列和死信交换机
         * @return
         */
        @Bean
        public Binding dlxBinding() {
            return BindingBuilder.bind(dlxQueue())
                    .to(dlxDirectExchange())
                    .with(DLX_ROUTING_KEY);
        }
    
    
        @Bean
        public Queue nomarlQueue() {
            Map<String, Object> args = new HashMap<>();
            //设置消息过期时间
            args.put("x-message-ttl", 0);
            //设置死信交换机
            args.put("x-dead-letter-exchange", DLX_EXCHANGE_NAME);
            //设置死信 routing_key
            args.put("x-dead-letter-routing-key", DLX_ROUTING_KEY);
            return new Queue(MQ_QUEUE_DEMO, true, false, false, args);
        }
    
    
        @Bean
        public DirectExchange nomarlDirectExchange() {
            return new DirectExchange(MQ_EXCHANGE_NAME, true, false);
        }
        /**
         *
         * @return
         */
        @Bean
        public Binding nomarlBinding() {
            return BindingBuilder.bind(nomarlQueue())
                    .to(nomarlDirectExchange())
                    .with(MQ_ROUTING_KEY);
        }
    }
    
  3. 消费

    @Component
    public class DlxConsumer {
        @RabbitListener(queues = RabbitConfig.DLX_QUEUE_NAME)
        public void dlxHandle(String msg) {
            System.out.println("dlx msg = " + msg);
        }
    }
    
  4. 发送消息

    @RestController
    public class SendController {
        @Resource
        private RabbitTemplate rabbitTemplate;;
        @RequestMapping("/send")
        public String send() {
            rabbitTemplate.convertAndSend(RabbitConfig.MQ_EXCHANGE_NAME, RabbitConfig.MQ_ROUTING_KEY, "hello rabbitmq");
            return "send success";
        }
    }
    

延迟队列

背景

  1. 在电商项目中,当用户下单之后,一般需要 15 分钟之内或者 30 分钟之内付款,否则订单就会进入异常处理逻辑中,被取消,那么进入到异常处理逻辑中,就可以当成是一个延迟队列。
  2. 公司的会议预定系统,在会议预定成功后,会在会议开始前半小时通知所有预定该会议的用户。
  3. 工单超过 24 小时未处理,则自动提醒相关责任人。
  4. 用户下单外卖以后,距离超时时间还有 10 分钟时提醒外卖小哥即将超时。

定时任务?

  • 如果项目中只有一个这样的延迟队列的场景,那么搞个定时任务似乎也可以
  • 但是如果项目中有很多这样的场景,那么定时任务很明显就不是最佳方案了,我们可以通过延迟队列来实现一个通用的解决方案

延迟队列实现思路

延迟队列实现的思路就是上文提到的 DLX(死信交换机)+TTL(消息超时时间),我们可以把死信队列就当成延迟队列

  • 假如一条消息需要延迟 30 分钟执行,我们就设置这条消息的有效期为 30 分钟,
  • 同时为这条消息配置死信交换机和死信 routing_key,并且不为这个消息队列设置消费者
  • 那么 30 分钟后,这条消息由于没有被消费者消费而进入死信队列,
  • 此时我们有一个消费者就在“蹲点”这个死信队列,消息一进入死信队列,就立马被消费了
    在这里插入图片描述

代码

  • 其实区别就是把上面案例中普通队列nomarlQueue中的x-message-ttl设置一个过期时间即可,0表示立即过期,15000表示15秒后过期
    @Bean
    public Queue nomarlQueue() {
        Map<String, Object> args = new HashMap<>();
        //设置消息过期时间
        //args.put("x-message-ttl", 0);
        args.put("x-message-ttl", 15000);//15秒
        //设置死信交换机
        args.put("x-dead-letter-exchange", DLX_EXCHANGE_NAME);
        //设置死信 routing_key
        args.put("x-dead-letter-routing-key", DLX_ROUTING_KEY);
        return new Queue(MQ_QUEUE_DEMO, true, false, false, args);
    }