RocketMQ(五)性能测试报告

时间:2022-06-20 05:55:11

1 概述

1.1 编写目的

测试RocketMQ的写数据、读数据性能及稳定性

1.2 适用范围

对RocketMQ感兴趣的读者。

1.3 术语表

  • nameserver:

    专为RocketMQ设计的轻量级名称服务。

  • producer:

    消息生产者,负责生产消息,一般由业务系统负责生成消息。

  • consumer:

    消息消费者,负责消费消息,一般是后台系统负责异步消息。

  • broker:

    消息中转角色,负责存储消息,转发消息。

  • master:

    broker中的主节点。

  • slave:

    broker中的副节点。

  • 异步复制:

    消息写入master节点,再由master节点异步复制到slave节点,类似mysql中的master-slave机制。

  • 同步双写:

    消息同时写入master节点和slave节点。

  • 异步刷盘:

    Broker的一种持久化策略,消息写入pagecache后,直接返回。由异步线程负责将pagecache写入硬盘。

  • 同步刷盘:

    Broker的一种持久化策略,消息写入pagecache后,由同步线程将pagecache写入硬盘后,再返回。

  • TPS:

    每秒钟发送的消息个数。

1.4 参考资料

官方网站上的:
1. RocketMQ用户指南
2. RocketMQ原理简介
3. RocketMQ最佳实践

2 性能测试目的

测试RocketMQ的写入、读取性能及稳定性。

3 测试环境

3.1 硬件环境(物理架构)

8台服务器(编号1~8)

  • nameserver部署在1上
  • 1~2用于部署producer
  • 3~6用于部署broker
  • 7~8用于部署consumer

每台服务器均为以下硬件配置

  • CPU:E5-2420、8核*2、1.9G主频
  • 内存:32G
  • 硬盘:1T、RAID10

3.2 软件环境(逻辑架构)

RocketMQ(五)性能测试报告

每台服务器均为以下软件配置

  • 操作系统:centos(内核 linux 2.6.32-358.el6.x86_64)
  • JDK:1.6(Java HotSpot 64-Bit Server VM)

4 软件整体性能评价

4.1 预期指标

预期RocketMQ可以满足日常业务性能需求。

4.2 实际表现

经过测试,RocketMQ稳定性高,未出现无法写入或读取的情况,未出现内存占用过高的情况。2台master、2台slave组成的broker集群,消息大写为2kb时,写入速度可达每秒60多MB,日可处理数据量约为7.2亿条,性能可以满足需求。

5 测试过程与具体结论

1)测试场景一
1台生产者、1台broker、1台消费者,broker采用异步刷盘。消费者为1个线程,push消费模式。
测试线程数和消息大小对TPS和吞吐量的影响。

测试结果1:
RocketMQ(五)性能测试报告

测试结果2:
RocketMQ(五)性能测试报告
以上测试情况消费者均能及时消费(延迟很小)

结论1:
消息大小固定(2KB)时,随着生产者线程数的增加,TPS和吞吐量均会上升,
但当线程增加到数量后,TPS和吞吐量会有所下降。
RocketMQ(五)性能测试报告

结论2:
生产者线程数( 32个)固定时,随着消息大小的增加,TPS会先升后降,
吞吐量会逐渐提升。
RocketMQ(五)性能测试报告

2)测试场景二
2台生产者,4台broker(2台master、2台slaver构成2个broker集群),2台消费者。每台生产者开启10个线程,消息均为2KB。每台消费者为1个线程,push消费模式。
测试broker主从模式和写盘模式对TPS和吞吐量的影响

1、异步复制、异步刷盘的测试结果:
RocketMQ(五)性能测试报告

2、异步复制、同步刷盘的测试结果:
RocketMQ(五)性能测试报告

3、同步双写、异步刷盘的测试结果:
RocketMQ(五)性能测试报告

4、同步双写、同步刷盘的测试结果
RocketMQ(五)性能测试报告

结论:

同步双写模式比异步复制模式性能稍低,但不明显。

同步刷盘模式比异步刷盘模式性能低很多。

3)测试场景三
2台生产者,4台broker(2台master、2台slave构成2个broker集群),2台消费者。每台生产者开启10个线程,消息大写均为2KB。每台消费者为1个线程,push消费模式。broker采用异步复制、异步刷盘模式。连续运行8小时。
测试稳定性。

测试结果:
所有消息均成功发送。具体结果可查看“rocketmq测试结果记录/2p-2m(异步复制-异步刷盘)-2s-2c-8小时稳定性测试”。

4)测试场景四
2台生产者,4台broker(2台master、2台slave构成2个broker集群),2台消费者。每台消费者为一个线程,push消费模式。broker采用异步复制、异步刷盘模式。
测试当前软硬件配置下broker极限写入速度。

RocketMQ(五)性能测试报告
以上测试情况消费者均能及时消费(延迟很小)。

结论:
当前软硬件配置下,broker集群可以达到60多MB的写入速度(如果继续增加消息大小。还可以提高写入速度)。