开发: C++知识库 Java知识库 JavaScript Python PHP知识库人工智能区块链大数据移动开发嵌入式开发工具数据结构与算法开发测试游戏开发网络协议系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑笔记本显卡显示器固态硬盘硬盘耳机手机 iphone vivo oppo 小米华为单反装机图拉丁

-> 大数据 -> RabbitMQ架构与实战 -> 正文阅读

[大数据]RabbitMQ架构与实战

RabbitMQ架构与实战

第1节 RabbitMQ架构与实战

1.1 RabbitMQ介绍、概念、基本架构

1.1.1 RabbitMQ介绍

RabbitMQ，俗称“兔子MQ”（可见其轻巧，敏捷），是目前非常热门的一款开源消息中间件，不管是互联网行业还是传统行业都广泛使用（最早是为了解决电信行业系统之间的可靠通信而设计）。

高可靠性、易扩展、高可用、功能丰富等
支持大多数（甚至冷门）的编程语言客户端。
RabbitMQ遵循AMQP协议，自身采用Erlang（一种由爱立信开发的通用面向并发编程的语言）编写。
RabbitMQ也支持MQTT等其他协议。
RabbitMQ具有很强大的插件扩展能力，官方和社区提供了非常丰富的插件可供选择：
社区地址

1.1.2 RabbitMQ整体逻辑架构

在这里插入图片描述

1.1.3 RabbitMQ Exchange类型

RabbitMQ常用的交换器类型有： fanout 、 direct 、 topic 、 headers 四种。

Fanout

会把所有发送到该交换器的消息路由到所有与该交换器绑定的队列中，如图：

在这里插入图片描述

Direct

direct类型的交换器路由规则很简单，它会把消息路由到那些BindingKey和RoutingKey完全匹配的队列中，如下图：

在这里插入图片描述

Topic

topic类型的交换器在direct匹配规则上进行了扩展，也是将消息路由到BindingKey和RoutingKey
相匹配的队列中，这里的匹配规则稍微不同，它约定：
BindingKey和RoutingKey一样都是由".“分隔的字符串；BindingKey中可以存在两种特殊字符 * 和 #，用于模糊匹配，其中”*“用于匹配一个词，”#"用于匹配多个单词（可以是0个）
在这里插入图片描述

Headers

headers类型的交换器不依赖于路由键的匹配规则来路由信息，而是根据发送的消息内容中的headers属性进行匹配。在绑定队列和交换器时指定一组键值对，当发送的消息到交换器时，RabbitMQ会获取到该消息的headers，对比其中的键值对是否完全匹配队列和交换器绑定时指定的键
值对，如果匹配，消息就会路由到该队列。headers类型的交换器性能很差，不实用。

1.1.4 RabbitMQ数据存储

存储机制

RabbitMQ消息有两种类型：

持久化消息和非持久化消息。
这两种消息都会被写入磁盘。

持久化消息在到达队列时写入磁盘，同时会内存中保存一份备份，当内存吃紧时，消息从内存中清除。这会提高一定的性能。
非持久化消息一般只存于内存中，当内存压力大时数据刷盘处理，以节省内存空间。
RabbitMQ存储层包含两个部分：队列索引和消息存储。

在这里插入图片描述

队列索引：rabbit_queue_index

索引维护队列的落盘消息的信息，如存储地点、是否已被给消费者接收、是否已被消费者ack等。
每个队列都有相对应的索引。
在这里插入图片描述
索引使用顺序的段文件来存储，后缀为.idx，文件名从0开始累加，每个段文件中包含固定的segment_entry_count 条记录，默认值是16384。每个index从磁盘中读取消息的时候，至少要在内存中维护一个段文件，所以设置 queue_index_embed_msgs_below 值得时候要格外谨慎，一点点增大也
可能会引起内存爆炸式增长。
在这里插入图片描述

消息存储：rabbit_msg_store

消息以键值对的形式存储到文件中，一个虚拟主机上的所有队列使用同一块存储，每个节点只有一个。存储分为持久化存储（msg_store_persistent）和短暂存储（msg_store_transient）。持久化存储的内容在broker重启后不会丢失，短暂存储的内容在broker重启后丢失。
store使用文件来存储，后缀为.rdq，经过store处理的所有消息都会以追加的方式写入到该文件中，当该文件的大小超过指定的限制（file_size_limit）后，将会关闭该文件并创建一个新的文件以供新的消息写入。文件名从0开始进行累加。在进行消息的存储时，RabbitMQ会在ETS（Erlang Term
Storage）表中记录消息在文件中的位置映射和文件的相关信息。
在这里插入图片描述

	channel.queueDeclare("q.demo1", true, false, false, null); 
	channel.exchangeDeclare("ex.demo1", 
	BuiltinExchangeType.DIRECT, true, false, null); 
	channel.queueBind("q.demo1", "ex.demo1", "key.demo1", null); 		
	Map<String, Object> headers = new HashMap<>(); 
	headers.put("mykey", "myvalue"); 
	AMQP.BasicProperties props = new AMQP.BasicProperties.Builder()
	.contentType("text/plain")
	.contentEncoding("utf-8")
	.deliveryMode(2) .headers(headers).build(); // 4096个数字 		 
	String message = "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + 
"12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + 
"12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + 
"12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + 
"12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890"+ "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 56789012345678901234567890" + "12345678901234567890123456789012345678901234567890123456789012345678901234 5678901234567890123456"; 
	// message = message.substring(0, message.length() - 25); 
	// message = message.substring(0, message.length() - 38); 
	message = message.substring(0, message.length() - 45); 
	// message = message.substring(0, message.length() - 50); 
	// message = message.substring(0, message.length() - 100); 
	channel.basicPublish("ex.demo1", "key.demo1", props, message.getBytes("UTF-8"));

消息（包括消息头、消息体、属性）可以直接存储在index中，也可以存储在store中。最佳的方式是较小的消息存在index中，而较大的消息存在store中。这个消息大小的界定可以通过queue_index_embed_msgs_below 来配置，默认值为4096B。当一个消息小于设定的大小阈值时，就可以存储在index中，这样性能上可以得到优化。一个完整的消息大小小于这个值，就放到索引中，否则放到持久化消息文件中。
rabbitmq.conf中的配置信息：

## Size in bytes below which to embed messages in the queue index. 
## Related doc guide: https://rabbitmq.com/persistence-conf.html ##
# queue_index_embed_msgs_below = 4096 
## You can also set this size in memory units 
##
# queue_index_embed_msgs_below = 4kb

如果消息小于这个值，就在索引中存储，如果消息大于这个值就在store中存储：
大于这个值的消息存储于msg_store_persistent目录中的.rdq文件中：
在这里插入图片描述
小于这个值的消息存储于.idx索引文件中：

读取消息时，先根据消息的ID（msg_id）找到对应存储的文件，如果文件存在并且未被锁住，则直接打开文件，从指定位置读取消息内容。如果文件不存在或者被锁住了，则发送请求由store进行处理。
删除消息时，只是从ETS表删除指定消息的相关信息，同时更新消息对应的存储文件和相关信息。
在执行消息删除操作时，并不立即对文件中的消息进行删除，也就是说消息依然在文件中，仅仅是标记为垃圾数据而已。当一个文件中都是垃圾数据时可以将这个文件删除。当检测到前后两个文件中的有效数据可以合并成一个文件，并且所有的垃圾数据的大小和所有文件（至少有3个文件存在的情况下）的数据大小的比值超过设置的阈值garbage_fraction（默认值0.5）时，才会触发垃圾回收，将这两个文件合并，执行合并的两个文件一定是逻辑上相邻的两个文件。合并逻辑：

锁定这两个文件
先整理前面的文件的有效数据，再整理后面的文件的有效数据
将后面文件的有效数据写入到前面的文件中
更新消息在ETS表中的记录
删除后面文件

在这里插入图片描述

队列结构

通常队列由rabbit_amqqueue_process和backing_queue这两部分组成，
rabbit_amqqueue_process负责协议相关的消息处理，即接收生产者发布的消息、向消费者交付消息、处理消息的确认（包括生产端的confirm和消费端的ack）等。backing_queue是消息存储的具体形式和引擎，并向rabbit_amqqueue_process提供相关的接口以供调用。
在这里插入图片描述
如果消息投递的目的队列是空的，并且有消费者订阅了这个队列，那么该消息会直接发送给消费者，不会经过队列这一步。当消息无法直接投递给消费者时，需要暂时将消息存入队列，以便重新投递。

rabbit_variable_queue.erl 源码中定义了RabbitMQ队列的4种状态：

alpha：消息索引和消息内容都存内存，最耗内存，很少消耗CPU
beta：消息索引存内存，消息内存存磁盘
gama：消息索引内存和磁盘都有，消息内容存磁盘
delta：消息索引和内容都存磁盘，基本不消耗内存，消耗更多CPU和I/O操作

消息存入队列后，不是固定不变的，它会随着系统的负载在队列中不断流动，消息的状态会不断发送变化。
持久化的消息，索引和内容都必须先保存在磁盘上，才会处于上述状态中的一种gama状态只有持久化消息才会有的状态。
在运行时，RabbitMQ会根据消息传递的速度定期计算一个当前内存中能够保存的最大消息数量（target_ram_count），如果alpha状态的消息数量大于此值，则会引起消息的状态转换，多余的消息可能会转换到beta、gama或者delta状态。区分这4种状态的主要作用是满足不同的内存和CPU需求。
对于普通没有设置优先级和镜像的队列来说，backing_queue的默认实现是
rabbit_variable_queue，其内部通过5个子队列Q1、Q2、delta、Q3、Q4来体现消息的各个状态。

在这里插入图片描述

消费者获取消息也会引起消息的状态转换。

当消费者获取消息时

首先会从Q4中获取消息，如果获取成功则返回。
如果Q4为空，则尝试从Q3中获取消息，系统首先会判断Q3是否为空，如果为空则返回队列为空，即此时队列中无消息。
如果Q3不为空，则取出Q3中的消息；进而再判断此时Q3和Delta中的长度，如果都为空，则可以认为 Q2、Delta、 Q3、Q4 全部为空，此时将Q1中的消息直接转移至Q4，下次直接从Q4 中获取消息。
如果Q3为空，Delta不为空，则将Delta的消息转移至Q3中，下次可以直接从Q3中获取消息。
在将消息从Delta转移到Q3的过程中，是按照索引分段读取的，首先读取某一段，然后判断读取的消息的个数与Delta中消息的个数是否相等，如果相等，则可以判定此时Delta中己无消息，则直接将Q2和刚读取到的消息一并放入到Q3中，如果不相等，仅将此次读取到的消息转移到Q3。
这里就有两处疑问，第一个疑问是：为什么Q3为空则可以认定整个队列为空？
试想一下，如果Q3为空，Delta不为空，那么在Q3取出最后一条消息的时候，Delta 上的消息就会被转移到Q3这样与 Q3 为空矛盾；
如果Delta 为空且Q2不为空，则在Q3取出最后一条消息时会将Q2的消息并入到Q3中，这样也与Q3为空矛盾；
在Q3取出最后一条消息之后，如果Q2、Delta、Q3都为空，且Q1不为空时，则Q1的消息会被转移到Q4，这与Q4为空矛盾。
其实这一番论述也解释了另一个问题：为什么Q3和Delta都为空时，则可以认为 Q2、Delta、Q3、Q4全部为空？
通常在负载正常时，如果消费速度大于生产速度，对于不需要保证可靠不丢失的消息来说，极有可能只会处于alpha状态。
对于持久化消息，它一定会进入gamma状态，在开启publisher confirm机制时，只有到了gamma 状态时才会确认该消息己被接收，若消息消费速度足够快、内存也充足，这些消息也不会继续走到下一个状态。

为什么消息的堆积导致性能下降？

在系统负载较高时，消息若不能很快被消费掉，这些消息就会进入到很深的队列中去，这样会增加处理每个消息的平均开销。因为要花更多的时间和资源处理“堆积”的消息，如此用来处理新流入的消息的能力就会降低，使得后流入的消息又被积压到很深的队列中，继续增大处理每个消息的平均开销，继而情况变得越来越恶化，使得系统的处理能力大大降低。
应对这一问题一般有3种措施：