IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Day393.RabbitMQ实战 -RabbitMQ -> 正文阅读

[大数据]Day393.RabbitMQ实战 -RabbitMQ

RabbitMQ 实战

1.MQ引言

1.1 什么是MQ

MQ(Message Quene) : 翻译为 消息队列,通过典型的 生产者消费者模型,生产者不断向消息队列中生产消息,消费者不断的从队列中获取消息。因为消息的生产和消费都是异步的,而且只关心消息的发送和接收,没有业务逻辑的侵入,轻松的实现系统间解耦。别名为 消息中间件 通过利用高效可靠的消息传递机制进行平台无关的数据交流,并基于数据通信来进行分布式系统的集成。

1.2 MQ有哪些

当今市面上有很多主流的消息中间件,如老牌的ActiveMQRabbitMQ,炙手可热的Kafka,阿里巴巴自主开发RocketMQ等。

1.3 不同MQ特点

  • ActiveMQ
    • ActiveMQ 是Apache出品,最流行的,能力强劲的开源消息总线。它是一个完全支持JMS规范的的消息中间件。丰富的API,多种集群架构模式让ActiveMQ在业界成为老牌的消息中间件,在中小型企业颇受欢迎!
  • Kafka
    • Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache顶级项目。Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务
  • RocketMQ
    • RocketMQ是阿里开源的消息中间件,它是纯Java开发,具有高吞吐量高可用性、适合大规模分布式系统应用的特点。RocketMQ思路起源于Kafka,但并不是Kafka的一个Copy,它对消息的可靠传输及事务性做了优化,目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景。
  • RabbitMQ
    • RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议来实现。AMQP的主要特征是面向消息队列路由(包括点对点和发布/订阅)、可靠性安全。AMQP协议更多用在企业系统内对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。

RabbitMQ比Kafka可靠,Kafka更适合IO高吞吐的处理,一般应用在大数据日志处理或对实时性(少量延迟),可靠性(少量丢数据)要求稍低的场景使用,比如ELK日志收集。


2.RabbitMQ 的引言

2.1 RabbitMQ

基于AMQP协议,erlang语言开发,是部署最广泛的开源消息中间件,是最受欢迎的开源消息中间件之一。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-1jkBS0Jz-1631890712297)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917205237397.png)]

官网: https://www.rabbitmq.com/

官方教程: https://www.rabbitmq.com/#getstarted

  • AMQP 协议

AMQP(advanced message queuing protocol)在2003年时被提出,最早用于解决金融领不同平台之间的消息传递交互问题。顾名思义,AMQP是一种协议,更准确的说是一种binary wire-level protocol(链接协议)。这是其和JMS的本质差别,AMQP不从API层进行限定,而是``直接定义网络交换的数据格式。这使得实现了AMQP的provider天然性就是跨平台`的。以下是AMQP协议模型:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kQy6MgVV-1631890712299)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917205336993.png)]


2.2 RabbitMQ 的安装

2.2.1 下载

官网下载地址: https://www.rabbitmq.com/download.html

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yztLXtBP-1631890712301)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917205409922.png)]

最新版本: 3.9.5


2.2.2 下载的安装包

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-bUyHulR7-1631890712303)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917210456550.png)]

注意:这里的安装包是centos7安装的包


2.2.3 安装步骤

  • 将rabbitmq安装包上传到linux系统中
erlang-22.0.7-1.el7.x86_64.rpm
rabbitmq-server-3.7.18-1.el7.noarch.rpm
  • 安装Erlang依赖包
rpm -ivh erlang-22.0.7-1.el7.x86_64.rpm
  • 安装RabbitMQ安装包(需要联网)
yum install -y rabbitmq-server-3.7.18-1.el7.noarch.rpm
  • 复制配置文件

注意:

默认安装完成后配置文件模板在:/usr/share/doc/rabbitmq-server-3.7.18/rabbitmq.config.example目录中,

需要将配置文件复制到/etc/rabbitmq/目录中,并修改名称为rabbitmq.config

  • 查看配置文件位置
ls /etc/rabbitmq/rabbitmq.config
  • 修改配置文件(参见下图:)
vim /etc/rabbitmq/rabbitmq.config 

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-axaQNghM-1631890712305)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211240415.png)]

将上图中配置文件中红色部分去掉%%,以及最后的,逗号 修改为下图:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wSb5tlxo-1631890712307)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211307007.png)]

  • 执行如下命令,启动rabbitmq中的插件管理
rabbitmq-plugins enable rabbitmq_management #也就是MQ的Web界面

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FwVVuNJv-1631890712309)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211429303.png)]

  • 启动RabbitMQ的服务
systemctl start rabbitmq-server #启动
systemctl restart rabbitmq-server #重启
systemctl stop rabbitmq-server #停止
  • 查看服务状态(见下图:)
systemctl status rabbitmq-server

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Z4qyvPy9-1631890712310)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211546920.png)]

  • 关闭防火墙服务,便于测试
systemctl disable firewalld
  • 访问web管理界面
http://192.168.109.101:15672/ 
#阿昌这里的服务器ip如上

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wzx7fbS7-1631890712312)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211715998.png)]

  • 登录管理界面
#默认账号密码
username:  guest
password:  guest

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Rt35L2jC-1631890712313)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917211804169.png)]


3. RabiitMQ 配置

3.1RabbitMQ 管理命令行

  • 服务启动相关
systemctl 【start|restart|stop|status】 rabbitmq-server #管理服务命令
  • 管理命令行 用来在不使用web管理界面情况下命令操作RabbitMQ
rabbitmqctl  help  #可以查看更多命令
  • 插件管理命令行
rabbitmq-plugins 【enable|list|disable】  #插件管理命令行

3.2 web管理界面介绍

3.2.1 overview概览

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-vY5jiBzy-1631890712314)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917212456012.png)]

  • connections:无论生产者还是消费者,都需要与RabbitMQ建立连接后才可以完成消息的生产和消费,在这里可以查看连接情况

  • channels:通道,建立连接后,会形成通道,消息的投递获取依赖通道。

  • Exchanges:交换机,用来实现消息的路由

  • Queues:队列,即消息队列,消息存放在队列中,等待消费,消费后被移除队列。


3.2.2 Admin用户和虚拟主机管理

1. 添加用户

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Y8YhGMnE-1631890712315)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917214005196.png)]

上面的Tags选项,其实是指定用户的角色,可选的有以下几个:

  • 超级管理员(administrator)

    可登陆管理控制台,可查看所有的信息,并且可以对用户,策略(policy)进行操作。

  • 监控者(monitoring)

    可登陆管理控制台,同时可以查看rabbitmq节点的相关信息(进程数,内存使用情况,磁盘使用情况等)

  • 策略制定者(policymaker)

    可登陆管理控制台, 同时可以对policy进行管理。但无法查看节点的相关信息(上图红框标识的部分)。

  • 普通管理者(management)

    仅可登陆管理控制台,无法看到节点信息,也无法对策略进行管理。

  • 其他

    无法登陆管理控制台,通常就是普通的生产者和消费者。

2. 创建虚拟主机

为了让各个用户可以互不干扰的工作,RabbitMQ添加了虚拟主机(Virtual Hosts)的概念。

其实就是一个独立的访问路径,不同用户使用不同路径,各自有自己的队列、交换机,互相不会影响。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QTH4gCy6-1631890712316)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917214211800.png)]

3. 绑定虚拟主机和用户

创建好虚拟主机,我们还要给用户添加访问权限:

点击添加好的虚拟主机:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-425RvCYH-1631890712317)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917214248303.png)]

进入虚拟机设置界面:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-83T28MMC-1631890712318)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917214318520.png)]

4.RabbitMQ 的第一个程序

4.0 AMQP协议的回顾

生产者&消费者通过通道,来传递消息。每一个生产者都对应一个虚拟主机(类似Mysql中的库)。可以让每一个应用建立一个对应的虚拟主机,让应用之间的信息是隔离的。虚拟主机具有权限,需要跟具体的某个用户进行绑定。当生产者把消息发给交换机或直接发给队列后,生产者的操作就结束了,此时就实现了解耦。每次生产消息或消费消息,都需要建立连接。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-IB76EmBo-1631890712319)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917214420001.png)]

1、构建一个虚拟主机

2、给虚拟主机绑定一个用户

4.1 RabbitMQ支持的消息模型

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YjitUG48-1631890712321)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917215631388.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kVqyOpd9-1631890712323)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917215639363.png)]
在这里插入图片描述


4.2 引入依赖

<dependency>
    <groupId>com.rabbitmq</groupId>
    <artifactId>amqp-client</artifactId>
    <version>5.7.2</version>
</dependency>

4.3 第一种模型(直连)

适合登录&注册后发短信的场景

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ogASufU9-1631890712324)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917215714591.png)]

在上图的模型中,有以下概念:

  • P:生产者,也就是要发送消息的程序
  • C:消费者:消息的接受者,会一直等待消息到来。
  • queue:消息队列,图中红色部分。类似一个邮箱,可以缓存消息;生产者向其中投递消息,消费者从其中取出消息。
0.创建虚拟主机并绑定用户

在这里插入图片描述

1. 开发生产者
//1、创建连接工厂
ConnectionFactory factory = new ConnectionFactory();
factory.setHost("192.168.109.101");//服务ip
factory.setPort(5672);//服务端口
factory.setUsername("achang");
factory.setPassword("123456");
factory.setVirtualHost("/achang");
Connection conn = factory.newConnection();

//2、创建通道,连接服务机
Channel channel = conn.createChannel();

// 参数1:queue队列名(如果这个队列不存在,则自动创建)
// 参数2: 是否持久化
// 参数3: 是否独占队列(表示当前队列,只有当前的连接可用)
// 参数4: 是否自动删除
// 参数5: 其他属性
channel.queueDeclare("achang",true,false,false,null);

//3、发布消息
// 参数1:交换机名
// 参数2:队列名称
// 参数3:发布消息的属性
// 参数4:具体消息内容
channel.basicPublish("","achang",null,"hello,achang!".getBytes());

//4、关闭资源
channel.close();
factory.clone();

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-oJwTYbO9-1631890712327)(C:/Users/PePe/AppData/Roaming/Typora/typora-user-images/image-20210917224028763.png)]

2. 开发消费者
//1、创建连接工厂
ConnectionFactory factory = new ConnectionFactory();
factory.setHost("192.168.109.101");//服务ip
factory.setPort(5672);//服务端口
factory.setUsername("achang");
factory.setPassword("123456");
factory.setVirtualHost("/achang");
Connection conn = factory.newConnection();

//2、创建通道,连接服务机
Channel channel = conn.createChannel();

// 参数1:queue队列名(如果这个队列不存在,则自动创建)
// 参数2: 是否持久化
// 参数3: 是否独占队列(表示当前队列,只有当前的连接可用)
// 参数4: 是否自动删除
// 参数5: 其他属性
channel.queueDeclare("achang",true,false,false,null);

//3、消费消息
// 参数1:queue队列名
// 参数2:自动接收
// 参数3:回调方法
channel.basicConsume("achang",true,new DefaultConsumer(channel){
    @Override
    public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
        System.out.println(new String(body));
    }
});

//4、关闭资源
//        channel.close();
//        factory.clone();

在这里插入图片描述


4.4 第二种模型(work quene)

明天继续!!!

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-09-18 10:14:40  更:2021-09-18 10:15:48 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 20:37:26-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码