RabbitMQ非常实用技巧,动态调整消息并发处理能力

开发 前端
在 Spring Boot 中动态调整 RabbitMQ 消息监听的并发数是一个重要的优化手段。通过合理设置并发数并根据系统负载情况进行动态调整,我们可以提高消息处理效率、节省系统资源、确保系统的稳定性和可靠性。

环境:SpringBoot2.7.16 + RabbitMQ3.8.35

1. 简介

RabbitMQ 是一个开源的消息代理和队列服务器,用于通过轻量级和可靠的消息传递,在服务器之间进行通信。在Spring Boot项目中我们一般都是通过@RabbitListener进行消息监听。可以通过配置消息监听器并发数来提高系统的消息处理能力。

在实际应用中,根据业务场景的不同,我们可能需要动态调整 RabbitMQ 消息监听的并发数。例如,当RabbitMQ消息积压过多时,这时候我们就可以考虑通过动态调整并发数,以提高消息处理速度;而在系统自身负载过高时,这时候可以考虑通过减少并发数来减轻系统的整体压力。本篇文章将通过具体的示例来展示如何调整运行中消息监听处理器的并发数。

注意:动态调整并发监听数还可以帮助我们更好地控制系统的稳定性和可靠性。通过实时监测系统的负载情况和消息处理速度,我们可以及时发现潜在的问题并进行调整,从而确保系统的正常运行。

2. 实战案例

2.1依赖管理

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>

2.2 配置管理

spring:
  rabbitmq:
    host: localhost
    port: 5672
    username: guest
    password: guest
    virtualHost: test
    publisherConfirmType: correlated
    publisherReturns: true
    listener: 
      simple:
        # 手动应答
        acknowledgeMode: manual
        concurrency: 2
        max-concurrency: 2

2.3 创建交换机及队列

通过管理界面创建交换机及队列。

  • 交换机名:test.exchange类型为topic
  • 队列名:   test
  • 将交换机与队列进行绑定路由key:akf.#

2.4 消息队列准备消息

通过如下接口,先往队列中插入100条消息

@Resource
private RabbitTemplate rabbitTemplate ;


@GetMapping("/send")
public String send() {
  new Thread(() -> {
    for (int i = 0; i < 100; i++) {
      rabbitTemplate.convertAndSend("test.exchange", "akf.a", "message - " + i) ;
    }
  }).start() ;
  return "success" ;
}

图片图片

2.5 消息监听器

@RabbitListener(queues = "test")
public void listener1(String message) {
  System.out.printf("%s - 接收到消息:%s%n", Thread.currentThread().getName(), message) ;
  try {
    TimeUnit.SECONDS.sleep(2) ;
  } catch (InterruptedException e) {}
}

2.6 测试

测试上面的消息监听器是正常的

图片图片

2.7 调整并发数

在上一步的测试中我们发现控制台打印的始终是一个线程在执行消息处理。但是在一开始的配置文件中我们将concurrency属性设置的为2,起码这里应该是2个线程交替执行才对,这是为什么呢?

Spring监听RabbitMQ的消息时默认并不是一条一条的从RabbitMQ中去,是一次预期一批数据,这一批消费完后才进行下一批的获取,默认预期250条。而我们向队列中存入的数据才100条,所以控制台中你只能看到一个线程打印,因为你没有足够的消息供其它线程去获取处理。我们可以通过如下配置进行预期数的设置:

spring:
  rabbitmq:
    listener: 
      simple:
        prefetch: 5

重新启动服务,测试如下

图片图片

2个线程交替执行;接下来该如何实现动态调整并发数呢?

首先,修改消息监听器配置

@RabbitListener(id = "test-queue", queues = "test", ackMode = "AUTO")
public void listener1(String message) {
  // ...
}

id: 这里最好是设置唯一的id值,我们是要通过该id值来获取当前队列的消息监听容器。ackMode: AUTO 这里设置的应答模式,用来覆盖配置文件中的设置。

其次,通过RabbitListenerEndpointRegistry操作

@Resource
private RabbitListenerEndpointRegistry registry ;


@GetMapping("/modify/{count}")
public Object modify(@PathVariable("count") Integer count) {
  // 这里通过id获取对应的队列监听器;所以上面一定要定义唯一的id值
  MessageListenerContainer listenerContainer = registry.getListenerContainer("test-queue") ;
  if (listenerContainer instanceof SimpleMessageListenerContainer container) {
    container.setConcurrentConsumers(count) ;
  }
  return String.format("并发接收消息:%d%n", count) ;
}

最后,测试。

首先将服务启动,控制输出如下(当前只有2个线程处理)

图片图片

目前只有2个线程。

调用上面的接口修改并发数为3个后,控制台输出。

图片图片

成功增加了一个消费者线程。

接下来再测试,如果修改的数量大于最大数(spring.rabbitmq.listener.simple.max-concurrency)

图片图片

控制台抛出如下异常。

图片图片

不能超过最大数;再看看调小是否可以。

图片图片

可以动态调小。

我们也可以对消息监听器进行暂停消费和重新启动消息监听,这里就不在演示了,非常简单调用相应start/stop即可。

总结:在 Spring Boot 中动态调整 RabbitMQ 消息监听的并发数是一个重要的优化手段。通过合理设置并发数并根据系统负载情况进行动态调整,我们可以提高消息处理效率、节省系统资源、确保系统的稳定性和可靠性。在实际应用中,我们应该根据具体的业务场景和需求来选择合适的并发数调整策略,以达到最佳的性能和效果。

责任编辑:武晓燕 来源: Spring全家桶实战案例源码
相关推荐

2024-05-22 09:29:43

2019-10-12 15:42:36

CSS代码前端

2022-03-23 09:18:10

Git技巧Linux

2009-09-04 10:27:28

Linux实用技巧linux操作系统linux

2009-12-21 15:50:39

2023-04-06 15:26:35

Java线程安全

2023-07-24 07:11:43

2022-11-03 10:28:59

PandasSAC机制

2011-04-08 15:40:01

Oracle认证

2009-01-03 09:34:30

ASP.NET.NET性能优化

2022-10-11 08:00:47

多线程开发技巧

2024-05-17 08:52:43

SQL实用技巧行列转换

2009-12-09 11:21:30

Linux实用技巧

2010-10-08 15:44:17

vim

2019-11-25 10:12:59

Python技巧工具

2010-09-14 10:41:24

DIV+CSS排版

2019-12-22 23:10:19

LinuxSSH加密

2009-12-23 17:32:35

Linux构建软路由

2019-10-10 16:31:51

PyCharmPythonWindows

2023-08-14 09:46:12

高并发消息
点赞
收藏

51CTO技术栈公众号