| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> RabbitMQ 笔记 -> 正文阅读 |
|
[大数据]RabbitMQ 笔记 |
课程介绍课程目的
课程主要内容消息中间件概述: 分布式系统中如何进行远程通信 为什么要使用消息中间件?市场上有哪些产品?有什么优缺点?该用哪个 JMS 规范和 AMQP 协议 RabbitMQ 部分: RabbitMQ 架构、环境准备和整合 高级特性如消息的可靠性保障、死信队列、延迟队列等 RabbitMQ 的集群、运维 源码分析,解析 RabbitMQ 的启动过程、交换器的实现、队列的实现等 第一部分:消息中间件概述第 1 节 分布式架构通信1.1 分布式架构通信原理SOA 架构: 2 根据实际业务,把系统拆分成合适的、独立部署的模块,模块之间相互独立。 优点:分布式、松耦合、扩展灵活、可重用。 SOA 架构系统中,使用 Dubbo 和 Zookeeper 进行服务间的远程通信。 优点: Dubbo 使用自定义的 TCP 协议,可以让请求报文体积更小,或者使用 HTTP2 协议,也可以减少报文 的体积,提高传输效率。 微服务架构: SpringCloud 中使用 Feign 解决服务之间远程通信的问题。 Feign:轻量级 RESTful 的 HTTP 服务客户端,广泛应用于 Spring Cloud 中。 符合面向接口化的编程 习惯。 本质:封装了 HTTP 调用流程,类似 Dubbo 的服务调用。 多用于同步远程调用。 RPC 主要基于 TCP/UDP 协议,HTTP 协议是应用层协议,是构建在传输层协议 TCP 之上的,RPC 效率 更高 RPC 长连接:不必每次通信都像 HTTP 一样三次握手,减少网络开销; HTTP 服务开发迭代更快:在接口不多,系统与系统之间交互比较少的情况下,HTTP 就显得更加方 便;相反,在接口比较多,系统与系统之间交互比较多的情况下,HTTP 就没有 RPC 有优势。 1.2 分布式同步通信的问题电商项目中,如果后台添加商品信息,该信息放到数据库。 我们同时,需要更新搜索引擎的倒排索引 同时,假如有商品页面的静态化处理,也需要更新该页面信息 方式一、可以在后台添加商品的方法中,如果数据插入数据库成功,就调用更新倒排索引的方法, 接着调用更新静态化页面的方法。 代码应该是:
问题: 假如更新倒排索引失败,该怎么办? 假如更新静态页面失败怎么办? 解决方式: 如果更新倒排索引失败,重试 如果更新静态页面失败,重试 代码应该是这样:
以上代码在执行中的问题:
或许可以加上迭代的等待时间,迭代的次数加以限制,减少 CPU 消耗。 或许还可以加上多线程,同时执行更新的操作,减少执行的时间。 但是都是基于该调用一定在可见的时间内调用成功。 还是老问题:如果更新失败怎么办? 归根到底,是同步调用处理不当。这个问题在分布式架构中尤为严重。 方式二:可以先执行添加商品的方法,商品添加成功,将更新索引和更新静态页面的任务缓存到一 个公共的位置,然后由相应的服务从该位置获取任务来执行。
此时,由于添加商品仅仅是将数据插入数据库,然后将任务信息缓存,调用立刻返回。 对于添加商品方法的调用,不会存在线程阻塞,不会存在调用栈崩溃。 再考虑远一点。 由于更新倒排索引的的服务和更新静态页面的服务要从公共的缓存或者叫任务池中取出任务并执 行,它们也会有执行失败的问题,也需要重试。如果一直更新失败,也需要一个方式来处理。 比如如果更新失败,则每隔 3 秒钟重试一次,重试三次都失败则放弃执行。 然后将错误结果放到另一个公共的地方,等待后续的补偿,无论是手工还是自动的。 还有问题:
看来真是解决了一个问题,引进来三个问题。 如果上述的问题都由我们从 0 开始解决,开发难度可想而知。 分布式服务中,由于业务拆分,应用也需要拆分,甚至数据库分库分表。 但是完成一个业务处理,往往要设计到多个模块之间的协调处理。此时模块之间,服务与服务之间 以及客户端与服务端之间的通信将变得非常复杂。 1.3 分布式异步通信模式比较典型的“生产者消费者模式”,可以跨平台、支持异构系统,通常借助消息中间件来完成。 优点:系统间解耦,并具有一定的可恢复性,支持异构系统,下游通常可并发执行,系统具备弹 性。 服务解耦、流量削峰填谷等 缺点:消息中间件存在一些瓶颈和一致性问题,对于开发来讲不直观且不易调试,有额外成本。 使用异步消息模式需要注意的问题:
第 2 节 消息中间件简介2.1 消息中间件概念维基百科对消息中间件的解释:面向消息的系统(消息中间件)是在分布式系统中完成消息的发送 和接收的基础软件。 消息中间件也可以称消息队列,是指用高效可靠的消息传递机制进行与平台无关的数据交流,并基 于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型,可以在分布式环境下扩展进 程的通信。 消息中间件就是在通信的上下游之间截断:break it,Broker 然后利用中间件解耦、异步的特性,构建弹性、可靠、稳定的系统。 体会一下:“必有歹人从中作梗”,”定有贵人从中相助“ 异步处理、流量削峰、限流、缓冲、排队、最终一致性、消息驱动等需求的场景都可以使用消息中 间件。 2.2 自定义消息中间件并发编程领域经典面试题:请使用 java 代码来实现“生产者消费者模式”。 BlockingQueue(阻塞队列)是 java 中常见的容器,在多线程编程中被广泛使用。 当队列容器已满时生产者线程被阻塞,直到队列未满后才可以继续 put; 当队列容器为空时,消费者线程被阻塞,直至队列非空时才可以继续 take。 provider
consumer
mask
sale
result
上述代码放到生产环境显然是不行的 比如:没有集群,没有分布式,玩儿法太单一,不能满足企业 级应用的要求。。。 比如:消息有没有持久化? 怎么确定消息一定能发送成功? 怎么确定消息一定能被消费成功? 高并发下的性能怎么样? 系统可靠吗? 有没有 Pub/Sub 模式? 有没有考虑过限流? 2.3 主流消息中间件及选型在传统金融机构、银行、政府机构等有一些老系统还在使用 IBM 等厂商提供的商用 MQ 产品。 当前业界比较流行的开源消息中间件包括:ActiveMQ、RabbitMQ、RocketMQ、Kafka、 ZeroMQ 等,其中应用最为广泛的要数 RabbitMQ、RocketMQ、Kafka 这三款。 Redis 在某种程度上也可以是实现类似“Queue”和“Pub/Sub”的机制,严格意义上不算消息中间件。 选取原则 首先,产品应该是开源的。开源意味着如果队列使用中遇到 bug,可以很快修改,而不用等待开发 者的更新。 其次,产品必须是近几年比较流行的,要有一个活跃的社区。这样遇到问题很快就可以找到解决方 法。同时流行也意味着 bug 较少。流行的产品一般跟周边系统兼容性比较好。 最后,作为消息队列,要具备以下几个特性: 1、消息传输的可靠性:保证消息不会丢失。 2、支持集群,包括横向扩展,单点故障都可以解决。 3、性能要好,要能够满足业务的性能需求。 RabbitMQ RabbitMQ 开始是用在电信业务的可靠通信的,也是少有的几款支持 AMQP 协议的产品之一。 优点:
缺点
RocketMQ RocketMQ 是一个开源的消息队列,使用 java 实现。借鉴了 Kafka 的设计并做了很多改进。 RocketMQ 主要用于有序,事务,流计算,消息推送,日志流处理,binlog 分发等场景。 经过了历次的 双 11 考验,性能,稳定性可可靠性没的说。 RocketMQ 几乎具备了消息队列应该具备的所有特性和功能。 java 开发,阅读源代码、扩展、二次开发很方便。 对电商领域的响应延迟做了很多优化。在大多数情况下,响应在毫秒级。如果应用很关注响应时 间,可以使用 RocketMQ。 性能比 RabbitMQ 高一个数量级,每秒处理几十万的消息。 缺点: 跟周边系统的整合和兼容不是很好。 Kafka Kafka 的可靠性,稳定性和功能特性基本满足大多数的应用场景。 跟周边系统的兼容性是数一数二的,尤其是大数据和流计算领域,几乎所有相关的开源软件都支持 Kafka。 Kafka 高效,可伸缩,消息持久化。支持分区、副本和容错。 Kafka 是 Scala 和 Java 开发的,对批处理和异步处理做了大量的设计,因此 Kafka 可以得到非常高的 性能。它的异步消息的发送和接收是三个中最好的,但是跟 RocketMQ 拉不开数量级,每秒处理几十万 的消息。 如果是异步消息,并且开启了压缩,Kafka 最终可以达到每秒处理 2000w 消息的级别。 但是由于是异步的和批处理的,延迟也会高,不适合电商场景。
如果对于吞吐量要求比较高 10 万 + RocketMQ、Kafka 如果对于消息延时要求比较高 RabbitMQ、RocketMQ 如果对于开发语言要求自己扩展 RocketMQ、Kafka 如果消息丢失要求高 RocketMQ、Kafka 如果对于整合兼容要求比较高 RabbitMQ、Kafka 如果偏向于电商 RocketMQ 如果偏向于 Spring Cloud 系列整合 RabbitMQ 如果偏向与大数据 Kafka 2.4 消息中间件应用场景消息中间件的使用场景非常广泛,比如,12306 购票的排队锁座,电商秒杀,大数据实时计算等。 电商秒杀案例: 比如 6.18,活动从 0:00 开始,仅限前 200 名,秒杀即将开始时,用户会疯狂刷新 APP 或者浏览器来 保证自己能够尽早的看到商品。 当秒杀开始前,用户在不断的刷新页面,系统应该如何应对高并发的读请求呢? 在秒杀开始时,大量并发用户瞬间向系统请求生成订单,扣减库存,系统应该如何应对高并发 的写请求呢? 系统应该如何应对高并发的读请求 使用缓存策略将请求挡在上层中的缓存中 能静态化的数据尽量做到静态化 加入限流(比如对短时间之内来自某一个用户,某一个 IP、某个设备的重复请求做丢弃处理) 系统应该如何应对高并发的写请求 生成订单,扣减库存,用户这些操作不经过缓存直达数据库。如果在 1s 内,有 1 万个数据连接同 时到达,系统的数据库会濒临崩溃。如何解决这个问题呢?我们可以使用 消息队列。 消息队列的作用: 削去秒杀场景下的峰值写流量——流量削峰 通过异步处理简化秒杀请求中的业务流程——异步处理 解耦,实现秒杀系统模块之间松耦合——解耦 削去秒杀场景下的峰值写流量 将秒杀请求暂存于消息队列 业务服务器响应用户“秒杀结果正在处理中。。。”,释放系统资源去 处理其它用户的请求。 削峰填谷 削平短暂的流量高峰,消息堆积会造成请求延迟处理,但秒杀用户对于短暂延迟有一定 容忍度。 秒杀商品有 1000 件,处理一次购买请求的时间是 500ms,那么总共就需要 500s 的时间。这时你 部署 10 个队列处理程序,那么秒杀请求的处理时间就是 50s,也就是说用户需要等待 50s 才可以看到 秒杀的结果,这是可以接受的。这时会并发 10 个请求到达数据库,并不会对数据库造成很大的压力。 通过异步处理简化秒杀请求中的业务流程 先处理主要的业务,异步处理次要的业务。 如主要流程是生成订单、扣减库存;次要流程比如购买成功之后会给用户发优惠券,增加用户的积 分。 此时秒杀只要处理生成订单,扣减库存的耗时,发放优惠券、增加用户积分异步去处理了。 解耦,实现秒杀系统模块之间松耦合 将秒杀数据同步给数据团队,有两种思路:
拉勾 B 端 C 端数据同步案例: 拉勾网站分 B 端和 C 端,B 端面向企业用户,C 端面向求职者。 这两个模块业务处理逻辑不同,数据库表结构不同,实际上是处于解耦的状态。 但是各自又需要对方的数据,需要共享:如
无论是 B 端还是 C 端,都有各自的搜索引擎和缓存,B 端需要获取 C 端的更新以更新搜索引擎和缓 存;C 端需要获取 B 端的更新以更新 C 端的搜索引擎与缓存。 如何解决 B 端 C 端数据共享的问题? 解决方式:
使用同步方式,B 端和 C 端耦合比较紧密,如果其中一个服务有问题,可能会导致另一个服务不可 用。比如 C 端的 RPC 挂掉,企业用户有可能无法发布新的职位信息,因为发布了对方也看不到;B 端的 RPC 挂掉,求职者可能无法更新简历,因为即使简历更新了,对方也看不到。 可以让 B 端或 C 端在对方 RPC 挂掉的时候,先将该通知消息缓存起来,等对方服务恢复 之后再进行同步。 这正是引入异步方式,使用消息队列的目的。 使用消息队列的异步方式,对 B 端 C 端进行解耦,只要消息队列可用,双方都可以将需要同步的信息 发送到消息队列,对方在收到消息队列推送来的消息的时候,各自更新自己的搜索引擎,更新自己的缓 存数据。 支付宝购买电影票 如上图,用户在支付宝购买了一张电影票后很快就收到消息推送和短信(电影院地址、几号厅、座 位号、场次时间等),同时用户会积累一定的会员积分。 这里,交易系统并不需要一直等待消息送达等动作都完成后才返回成功,允许一定延迟和瞬时不一 致(最终一致性),而且后面两个动作通常可以并发执行。 如果后期监控大盘想要获取实时交易数据,只需要新增个消费者程序并订阅该消息即可,交易系统 对此并不感知,松耦合。 第 3 节 JMS 规范和 AMQP 协议3.1 JMS 经典模式详解JMS 即 Java 消息服务(Java Message Service)应用程序接口,是一个 Java 平台中关于面向消息中间 件(MOM,Message oriented Middleware)的 API,用于在两个应用程序之间,或分布式系统中发送 消息,进行异步通信。与具体平台无关的 API,绝大多数 MOM 提供商都支持。 它类似于 JDBC(Java Database Connectivity)。 3.1.1 JMS 消息消息是 JMS 中的一种类型对象,由两部分组成:报文头和消息主体。 报文头包括消息头字段和消息头属性。 字段是 JMS 协议规定的字段,属性可以由用户按需添加。 JMS 报文头全部字段: 消息主体则携带着应用程序的数据或有效负载。 根据有效负载的类型来划分,可以将消息分为几种类型:
3.1.2 体系架构JMS 由以下元素组成:
JMS 接口的一个实现。该产品可以是 Java 的 JMS 实现,也可以是非 Java 的面向消息中间件的适 配器。
生产或消费基于消息的 Java 的应用程序或对象。
创建并发送消息的 JMS 客户。
接收消息的 JMS 客户。
包括可以在 JMS 客户之间传递的数据的对象
缓存消息的容器。消息的接受顺序并不一定要与消息的发送顺序相同。消息被消费后将从队列 中移除。
Pub/Sub 模式。 3.1.3 对象模型
用户用来创建到 JMS 提供者的连接的被管对象。JMS 客户通过可移植的接口访问连接,这样当 下层的实现改变时,代码不需要进行修改。管理员在 JNDI 名字空间中配置连接工厂,这样, JMS 客户才能够查找到它们。根据消息类型的不同,用户将使用队列连接工厂,或者主题连接 工厂。
连接代表了应用程序和消息服务器之间的通信链路。在获得了连接工厂后,就可以创建一个与 JMS 提供者的连接。根据不同的连接类型,连接允许用户创建会话,以发送和接收队列和主题 到目标。
目标是一个包装了消息目标标识符的被管对象,消息目标是指消息发布和接收的地点,或者是 队列,或者是主题。JMS 管理员创建这些对象,然后用户通过 JNDI 发现它们。和连接工厂一 样,管理员可以创建两种类型的目标,点对点模型的队列,以及发布者/订阅者模型的主题。
表示一个单线程的上下文,用于发送和接收消息。由于会话是单线程的,所以消息是连续的, 就是说消息是按照发送的顺序一个一个接收的。会话的好处是它支持事务。如果用户选择了事 务支持,会话上下文将保存一组消息,直到事务被提交才发送这些消息。在提交事务之前,用 户可以使用回滚操作取消这些消息。一个会话允许用户创建消息,生产者来发送消息,消费者 来接收消息。
由会话创建的对象,用于接收发送到目标的消息。消费者可以同步地(阻塞模式),或(非阻 塞)接收队列和主题类型的消息。
由会话创建的对象,用于发送消息到目标。用户可以创建某个目标的发送者,也可以创建一个 通用的发送者,在发送消息时指定目标。
是在消费者和生产者之间传送的对象,也就是说从一个应用程序传送到另一个应用程序。一个 消息有三个主要部分: 消息头(必须):包含用于识别和为消息寻找路由的操作设置。 一组消息属性(可选):包含额外的属性,支持其他提供者和用户的兼容。可以创 建定制的字段和过滤器(消息选择器)。 一个消息体(可选):允许用户创建五种类型的消息(文本消息,映射消息,字节 消息,流消息和对象消息)。 3.1.4 模式Java 消息服务应用程序结构支持两种模式:
在点对点或队列模型 一个生产者向一个特定的队列发布消息,一个消费者从该队列中读取消息。这里,生产者知道消费 者的队列,并直接将消息发送到消费者的队列,概括为: 一条消息只有一个消费者获得 生产者无需在接收者消费该消息期间处于运行状态,接收者也同样无需在消息发送时处于运行 状态。 每一个成功处理的消息要么自动确认,要么由接收者手动确认。 发布/订阅模式 支持向一个特定的主题发布消息。 0 或多个订阅者可能对接收特定消息主题的消息感兴趣。 发布者和订阅者彼此不知道对方。 多个消费者可以获得消息 在发布者和订阅者之间存在时间依赖性。 发布者需要建立一个主题,以便客户能够订阅。 订阅者必须保持持续的活动状态以接收消息,否则会丢失未上线时的消息。 对于持久订阅,订阅者未连接时发布的消息将在订阅者重连时重发。 3.1.5 传递方式JMS 有两种传递消息的方式。 标记为 NON_PERSISTENT 的消息最多投递一次,而标记为 PERSISTENT 的消息将使用暂存后再转送 的机理投递。 如果一个 JMS 服务下线,持久性消息不会丢失,等该服务恢复时再传递。默认的消息传递方式是非 持久性的。使用非持久性消息可能降低内务和需要的存储器,当不需要接收所有消息时使用。 3.1.6 供应商开源软件:
专有的供应商包括:
3.2 JMS 在应用集群中的问题生产中应用基本上都是以集群部署的。在 Queue 模式下,消息的消费没有什么问题,因为不同节点 的相同应用会抢占式地消费消息,这样还能分摊负载。 如果使用 Topic 广播模式?对于一个消息,不同节点的相同应用都会收到该消息,进行相应的操 作,这样就重复消费了。。。 方案一:选择 Queue 模式,创建多个一样的 Queue,每个应用消费自己的 Queue。 弊端:浪费空间,生产者还需要关注下游到底有几个消费者,违反了“解耦”的初衷。 方案二:选择 Topic 模式,在业务上做散列,或者通过分布式锁等方式来实现不同节点间的竞争。 弊端:对业务侵入较大,不是优雅的解决方法。 ActiveMQ 通过“虚拟主题”解决了这个问题。 生产中似乎需要结合这两种模式:即不同节点的相同应用间存在竞争,会部分消费(P2P),而不 同的应用都需要消费到全量的消息(Topic)模式。这样就可以避免重复消费。 JMS 规范文档 3.3 AMQP 协议剖析(jms-1_1-fr-spec.pdf)下载地址: https://download.oracle.com/otndocs/jcp/7195-jms-1.1-fr-spec-oth-JSpec/ JMS 是 JEE 平台的标准消息传递 API。它可以在商业和开源实现中使用。每个实现都包括一个 JMS 服 务器,一个 JMS 客户端库,以及用于管理消息传递系统的其他特定于实现的组件。 JMS 提供程序可以是 消息传递服务的独立实现,也可以是非 JMS 消息传递系统的桥梁。 JMS 客户端 API 是标准化的,因此 JMS 应用程序可在供应商的实现之间移植。但是:
3.3 AMQP 协议剖析3.3.1 协议架构AMQP 全称高级消息队列协议(Advanced Message Queuing Protocol),是一种标准,类似于 JMS,兼容 JMS 协议。目前 RabbitMQ 主流支持 AMQP 0-9-1,3.8.4 版本支持 AMQP 1.0。 3.3.2 AMQP 中的概念Publisher:消息发送者,将消息发送到 Exchange 并指定 RoutingKey,以便 queue 可以接收到指 定的消息。 Consumer:消息消费者,从 queue 获取消息,一个 Consumer 可以订阅多个 queue 以从多个 queue 中接收消息。 Server:一个具体的 MQ 服务实例,也称为 Broker。 Virtual host:虚拟主机,一个 Server 下可以有多个虚拟主机,用于隔离不同项目,一个 Virtual host 通常包含多个 Exchange、Message Queue。 Exchange:交换器,接收 Producer 发送来的消息,把消息转发到对应的 Message Queue 中。 Routing key:路由键,用于指定消息路由规则(Exchange 将消息路由到具体的 queue 中),通 常需要和具体的 Exchange 类型、Binding 的 Routing key 结合起来使用。 Bindings:指定了 Exchange 和 Queue 之间的绑定关系。Exchange 根据消息的 Routing key 和 Binding 配置(绑定关系、Binding、Routing key 等)来决定把消息分派到哪些具体的 queue 中。这依 赖于 Exchange 类型。 Message Queue:实际存储消息的容器,并把消息传递给最终的 Consumer。 3.3.3.AMQP 传输层架构简要概述 AMQP 是一个二进制的协议,信息被组织成数据帧,有很多类型。数据帧携带协议方法和其他信 息。所有数据帧都拥有基本相同的格式:帧头,负载,帧尾。数据帧负载的格式依赖于数据帧的类型。 我们假定有一个可靠的面向流的网络传输层(TCP/IP 或等价的协议)。 在一个单一的 socket 连接中,可能有多个相互独立的控制线程,称为“channel”。每个数据帧使用 通道号码编号。通过数据帧的交织,不同的通道共享一个连接。对于任意给定通道,数据帧严格按照序 列传输。 我们使用小的数据类型来构造数据帧,如 bit,integer,string 以及字段表。数据帧的字段做了轻微 的封装,不会让传输变慢或解析困难。根据协议规范机械地生成成数据帧层相对简单。 线级别的格式被设计为可伸缩和足够通用,以支持任意的高层协议(不仅是 AMQP)。我们假定 AMQP 会扩展,改进以及随时间的其他变化,并要求 wire-level 格式支持这些变化。 数据类型 AMQP 使用的数据类型如下: Integers(数值范围 1-8 的十进制数字):用于表示大小,数量,限制等,整数类型无符号 的,可以在帧内不对齐。 Bits(统一为 8 个字节):用于表示开/关值。 Short strings:用于保存简短的文本属性,字符串个数限制为 255,8 个字节 Long strings:用于保存二进制数据块。 Field tables:包含键值对,字段值一般为字符串,整数等。 协议协商 AMQP 客户端和服务端进行协议协商。意味着当客户端连接上之后,服务端会向客户端提出一些选 项,客户端必须能接收或修改。如果双方都认同协商的结果,继续进行连接的建立过程。协议协商是一 个很有用的技术手段,因为它可以让我们断言假设和前置条件。 在 AMQP 中,我们需要协商协议的一些特殊方面: 1、 真实的协议和版本。服务器可能在同一个端口支持多个协议。 2、 双方的加密参数和认证方式。这是功能层的一部分。 3、 数据帧最大大小,通道数量以及其他操作限制。 对限制条件的认同可能会导致双方重新分配 key 的缓存,避免死锁。每个发来的数据帧要么遵守认 同的限制,也就是安全的,要么超过了限制,此时另一方出错,必须断开连接。出色地践行了“要么一 切工作正常,要么完全不工作”的 RabbitMQ 哲学。 协商双方认同限制到一个小的值,如下:
数据帧界定 TCP/IP 是流协议,没有内置的机制用于界定数据帧。现有的协议从以下几个方面来解决:
3.3.4 AMQP 客户端实现 JMS 客户端RabbitMQ 的 JMS 客户端用 Java 实现,既与 JMS API 兼容,也与 AMQP 0-9-1 协议兼 容。 局限性 RabbitMQ JMS 客户端不支持某些 JMS 1.1 功能: JMS 客户端不支持服务器会话。 XA 事务支持接口未实现。 RabbitMQ JMS 主题选择器插件支持主题选择器。 队列选择器尚未实现。 支持 RabbitMQ 连接的 SSL 和套接字选项,但仅使用 RabbitMQ 客户端提供的(默认)SSL 连接 协议。 RabbitMQ 不支持 JMS NoLocal 订阅功能,该功能禁止消费者接收通过消费者自己的连接发布 的消息。可以调用包含 NoLocal 参数的方法,但该方法将被忽略。 RabbitMQ 使用 amqp 协议,JMS 规范仅对于 Java 的使用作出的规定,跟其他语言无关,协议是语言 无关的,只要语言实现了该协议,就可以做客户端。如此,则不同语言之间互操作性得以保证。 AMQP 协议文档下载地址: https://www.amqp.org/sites/amqp.org/files/amqp0-9-1.zip 第二部分:RabbitMQ第 1 节 RabbitMQ 架构与实战1.1 RabbitMQ 介绍、概念、基本架构1.1.1 RabbitMQ 介绍RabbitMQ,俗称“兔子 MQ”(可见其轻巧,敏捷),是目前非常热门的一款开源消息中间件,不管 是互联网行业还是传统行业都广泛使用(最早是为了解决电信行业系统之间的可靠通信而设计)。
RabbitMQ 具有很强大的插件扩展能力,官方和社区提供了非常丰富的插件可供选择: https://www.rabbitmq.com/community-plugins.html 1.1.2 RabbitMQ 整体逻辑架构1.1.3 RabbitMQ Exchange 类型RabbitMQ 常用的交换器类型有:fanout、direct、topic、headers 四种 Fanout 会把所有发送到该交换器的消息路由到所有与该交换器绑定的队列中,如图: Direct direct 类型的交换器路由规则很简单,它会把消息路由到那些 BindingKey 和 RoutingKey 完全匹配的 队列中,如下图: Topic topic 类型的交换器在 direct 匹配规则上进行了扩展,也是将消息路由到 BindingKey 和 RoutingKey 相匹配的队列中,这里的匹配规则稍微不同,它约定: BindingKey 和 RoutingKey 一样都是由"."分隔的字符串;BindingKey 中可以存在两种特殊字符“*”和 “#”,用于模糊匹配,其中"*“用于匹配一个单词,”#"用于匹配多个单词(可以是 0 个)。 Headers headers 类型的交换器不依赖于路由键的匹配规则来路由信息,而是根据发送的消息内容中的 headers 属性进行匹配。在绑定队列和交换器时指定一组键值对,当发送的消息到交换器时, RabbitMQ 会获取到该消息的 headers,对比其中的键值对是否完全匹配队列和交换器绑定时指定的键 值对,如果匹配,消息就会路由到该队列。headers 类型的交换器性能很差,不实用。 1.1.4 RabbitMQ 数据存储存储机制 RabbitMQ 消息有两种类型:
持久化消息在到达队列时写入磁盘,同时会内存中保存一份备份,当内存吃紧时,消息从内存中清 除。这会提高一定的性能。 非持久化消息一般只存于内存中,当内存压力大时数据刷盘处理,以节省内存空间。 RabbitMQ 存储层包含两个部分:队列索引和消息存储。 队列索引:rabbit_queue_index 索引维护队列的落盘消息的信息,如存储地点、是否已被给消费者接收、是否已被消费者 ack 等。 每个队列都有相对应的索引。 索引使用顺序的段文件来存储,后缀为.idx,文件名从 0 开始累加,每个段文件中包含固定的 segment_entry_count 条记录,默认值是 16384。每个 index 从磁盘中读取消息的时候,至少要在内存 中维护一个段文件,所以设置 queue_index_embed_msgs_below 值得时候要格外谨慎,一点点增大也 可能会引起内存爆炸式增长。 消息存储:rabbit_msg_store 消息以键值对的形式存储到文件中,一个虚拟主机上的所有队列使用同一块存储,每个节点只有一 个。 存储分为持久化存储(msg_store_persistent)和短暂存储(msg_store_transient)。 持久化存 储的内容在 broker 重启后不会丢失,短暂存储的内容在 broker 重启后丢失。 store 使用文件来存储,后缀为.rdq,经过 store 处理的所有消息都会以追加的方式写入到该文件 中,当该文件的大小超过指定的限制(file_size_limit)后,将会关闭该文件并创建一个新的文件以供新 的消息写入。文件名从 0 开始进行累加。在进行消息的存储时,RabbitMQ 会在 ETS(Erlang Term Storage)表中记录消息在文件中的位置映射和文件的相关信息。 消息(包括消息头、消息体、属性)可以直接存储在 index 中,也可以存储在 store 中。最佳的方式 是较小的消息存在 index 中,而较大的消息存在 store 中。这个消息大小的界定可以通过 queue_index_embed_msgs_below 来配置,默认值为 4096B。当一个消息小于设定的大小阈值时,就 可以存储在 index 中,这样性能上可以得到优化。一个完整的消息大小小于这个值,就放到索引中,否 则放到持久化消息文件中。 rabbitmq.conf 中的配置信息:
如果消息小于这个值,就在索引中存储,如果消息大于这个值就在 store 中存储: 大于这个值的消息存储于 msg_store_persistent 目录中的 .rdq 文件中: 小于这个值的消息存储于 .idx 索引文件中: 读取消息时,先根据消息的 ID(msg_id)找到对应存储的文件,如果文件存在并且未被锁住,则直 接打开文件,从指定位置读取消息内容。如果文件不存在或者被锁住了,则发送请求由 store 进行处 理。45 删除消息时,只是从 ETS 表删除指定消息的相关信息,同时更新消息对应的存储文件和相关信息。 在执行消息删除操作时,并不立即对文件中的消息进行删除,也就是说消息依然在文件中,仅仅是标记 为垃圾数据而已。当一个文件中都是垃圾数据时可以将这个文件删除。当检测到前后两个文件中的有效 数据可以合并成一个文件,并且所有的垃圾数据的大小和所有文件(至少有 3 个文件存在的情况下)的 数据大小的比值超过设置的阈值 garbage_fraction(默认值 0.5)时,才会触发垃圾回收,将这两个文件 合并,执行合并的两个文件一定是逻辑上相邻的两个文件。合并逻辑:
队列结构 通常队列由 rabbit_amqqueue_process 和 backing_queue 这两部分组成 rabbit_amqqueue_process 负责协议相关的消息处理,即接收生产者发布的消息、向消费者交付消 息、处理消息的确认(包括生产端的 confirm 和消费端的 ack)等。 backing_queue 是消息存储的具体形 式和引擎,并向 rabbit_amqqueue_process 提供相关的接口以供调用。 如果消息投递的目的队列是空的,并且有消费者订阅了这个队列,那么该消息会直接发送给消费 者,不会经过队列这一步。当消息无法直接投递给消费者时,需要暂时将消息存入队列,以便重新投 递。 rabbit_variable_queue.erl 源码中定义了 RabbitMQ 队列的 4 种状态:
消息存入队列后,不是固定不变的,它会随着系统的负载在队列中不断流动,消息的状态会不断发 送变化。 持久化的消息,索引和内容都必须先保存在磁盘上,才会处于上述状态中的一种 gama 状态只有持久化消息才会有的状态。 在运行时,RabbitMQ 会根据消息传递的速度定期计算一个当前内存中能够保存的最大消息数量 (target_ram_count),如果 alpha 状态的消息数量大于此值,则会引起消息的状态转换,多余的消息 可能会转换到 beta、gama 或者 delta 状态。区分这 4 种状态的主要作用是满足不同的内存和 CPU 需求。 对于普通没有设置优先级和镜像的队列来说,backing_queue 的默认实现是 rabbit_variable_queue,其内部通过 5 个子队列 Q1、Q2、delta、Q3、Q4 来体现消息的各个状态。 消费者获取消息也会引起消息的状态转换。 当消费者获取消息时
这里就有两处疑问,第一个疑问是:为什么 Q3 为空则可以认定整个队列为空?
其实这一番论述也解释了另一个问题:为什么 Q3 和 Delta 都为空时,则可以认为 Q2、Delta、Q3、 Q4 全部为空? 通常在负载正常时,如果消费速度大于生产速度,对于不需要保证可靠不丢失的消息来说,极有可 能只会处于 alpha 状态。 对于持久化消息,它一定会进入 gamma 状态,在开启 publisher confirm 机制时,只有到了 gamma 状态时才会确认该消息己被接收,若消息消费速度足够快、内存也充足,这些消息也不会继续 走到下一个状态。 为什么消息的堆积导致性能下降? 在系统负载较高时,消息若不能很快被消费掉,这些消息就会进入到很深的队列中去,这样会增加 处理每个消息的平均开销。因为要花更多的时间和资源处理“堆积”的消息,如此用来处理新流入的消息 的能力就会降低,使得后流入的消息又被积压到很深的队列中,继续增大处理每个消息的平均开销,继 而情况变得越来越恶化,使得系统的处理能力大大降低。 应对这一问题一般有 3 种措施:
1.2 安装和配置 RabbitMQ安装环境:
RabbitMQ 的安装需要首先安装 Erlang,因为它是基于 Erlang 的 VM 运行的。 RabbitMQ 需要的依赖:socat 和 logrotate,logrotate 操作系统中已经存在了,只需要安装 socat 就 可以了。 RabbitMQ 与 Erlang 的兼容关系详见:https://www.rabbitmq.com/which-erlang.html 安装配置启动
标签
访问 http://172.16.94.13:15672/ 1.3 RabbitMQ 常用操作命令
|
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 12:52:18- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |