IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> RabbitMQ学习(四)-- 消息的发布确认 -> 正文阅读

[大数据]RabbitMQ学习(四)-- 消息的发布确认

消息的发布确认

在这里插入图片描述

发布确认原理

生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,== 所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),==一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置basic.ack 的 multiple 域,表示到这个序列号之前的所有消息都已经得到了处理。

confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消息,生产者应用程序同样可以在回调方法中处理该 nack 消息。

发布确认的策略

开启发布确认的方法

发布确认默认是没有开启的,如果要开启需要调用方法confirmSelect,每当你要想使用发布确认,都需要在 channel 上调用该方法;
在这里插入图片描述

单个确认发布

这是一种简单的确认方式,它是一种 同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。
这种确认方式有一个最大的缺点就是: 发布速度特别的慢,因为如果没有确认发布的消息就会阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某些应用程序来说这可能已经足够了。

 //单个确认
    public static void publishMessageIndually() throws Exception {

        Channel channel = RabbitMqUtils.getChannel();
        //开启发布确认模式
        channel.confirmSelect();

        //队列的声明
        String queueName = UUID.randomUUID().toString();

        channel.queueDeclare(queueName, true, false, false, null);

        //开始时间
        long beginTime = System.currentTimeMillis();

        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i + "";
            channel.basicPublish("",queueName,null,message.getBytes());
            //单个消息就马上进行发布确认
            boolean flag = channel.waitForConfirms();
            if (flag) {
                System.out.println("消息发送成功");
            }
        }

        //结束时间
        long endTime = System.currentTimeMillis();
        System.out.println("发布:" + MESSAGE_COUNT + "个单独确认消息,耗时:" + (endTime - beginTime) + "ms");
    }

批量发布确认

上面那种方式非常慢,与单个等待确认消息相比,先发布一批消息然后一起确认可以极大地提高吞吐量,当然这种方式的缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种方案仍然是同步的,也一样阻塞消息的发布。

异步确认发布

异步确认虽然编程逻辑比上两个要复杂,但是性价比最高,无论是可靠性还是效率都没得说,他是利用回调函数来达到消息可靠性传递的,这个中间件也是通过函数回调来保证是否投递成功,下面就让我们来详细讲解异步确认是怎么实现的。
在这里插入图片描述

//异步发布确认
public static void publishMessageAsync() throws Exception {

    Channel channel = RabbitMqUtils.getChannel();
    //开启发布确认模式
    channel.confirmSelect();

    //队列的声明
    String queueName = UUID.randomUUID().toString();

    channel.queueDeclare(queueName, true, false, false, null);

    //开始时间
    long beginTime = System.currentTimeMillis();


    //消息确认成功,回调函数
    ConfirmCallback ackCallback = (deliveryTag,multiple) -> {
        System.out.println("确认的消息:" + deliveryTag);
    };

    //消息确认失败,回调函数
    /**
     * deliveryTag: 消息的标记;
     * multiple: 是否为批量确认
     */
    ConfirmCallback nackCallback = (deliveryTag,multiple) -> {
        System.out.println("未确认的消息:" + deliveryTag);
    };

    //准备消息的监听器:监听消息哪些消息发送成功,哪些消息发送失败?
    /**
     * 1、监听那些消息发送成功
     * 2、监听哪些消息发送事变
     */
    channel.addConfirmListener(ackCallback, nackCallback); //异步通知

    //批量发送消息
    for (int i = 0; i < MESSAGE_COUNT; i++) {
        String message = "消息" + i;
        channel.basicPublish("",queueName,null,message.getBytes());

        //进行发布确认
    }

    //结束时间
    long endTime = System.currentTimeMillis();
    System.out.println("发布:" + MESSAGE_COUNT + "个异步发布确认消息,耗时:" + (endTime - beginTime) + "ms");
}

如何处理异步未确认消息

最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列,比如说用 ConcurrentLinkedQueue 这个队列在 confirm callbacks 与发布线程之间进行消息的传递。
例子:

//异步发布确认
    public static void publishMessageAsync() throws Exception {

        Channel channel = RabbitMqUtils.getChannel();
        //开启发布确认模式
        channel.confirmSelect();

        /**
         * 准备线程安全有序的一个哈希表Map,适用于高并发情况下;
         * 1、轻松的将序号与消息进行关联;
         * 2、轻松的批量删除消息条目(只要给出序号);
         * 3、支持高并发(多线程);
         */
        ConcurrentSkipListMap<Long, String> outstandingConfirms =
                new ConcurrentSkipListMap<>();

        //队列的声明
        String queueName = UUID.randomUUID().toString();

        channel.queueDeclare(queueName, true, false, false, null);

        //开始时间
        long beginTime = System.currentTimeMillis();


        //消息确认成功,回调函数
        ConfirmCallback ackCallback = (deliveryTag,multiple) -> {
            if (multiple) {
                //2.删除掉已经确认的消息,剩下的就是未确认的消息
                ConcurrentNavigableMap<Long, String> confirmed
                        = outstandingConfirms.headMap(deliveryTag);
                confirmed.clear();
            }else{
                outstandingConfirms.remove(deliveryTag);
            }
            System.out.println("确认的消息:" + deliveryTag);
        };

        //消息确认失败,回调函数
        /**
         * deliveryTag: 消息的标记;
         * multiple: 是否为批量确认
         */
        ConfirmCallback nackCallback = (deliveryTag,multiple) -> {

            String message = outstandingConfirms.get(deliveryTag);
            System.out.println("未确认的消息是:" + message +  ",未确认的消息标识是:" + deliveryTag);
        };

        //准备消息的监听器:监听消息哪些消息发送成功,哪些消息发送失败?
        /**
         * 1、监听那些消息发送成功
         * 2、监听哪些消息发送事变
         */
        channel.addConfirmListener(ackCallback, nackCallback); //异步通知

        //批量发送消息
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = "消息" + i;
            channel.basicPublish("",queueName,null,message.getBytes());

            //1、在此处记录下所有要发送的消息,key为发送消息的序号
            outstandingConfirms.put(channel.getNextPublishSeqNo(), message);
        }

        //结束时间
        long endTime = System.currentTimeMillis();
        System.out.println("发布:" + MESSAGE_COUNT + "个异步发布确认消息,耗时:" + (endTime - beginTime) + "ms");
    }

以上三种发布确认速度对比

  • 单独发布消息:同步等待确认,简单,但吞吐量非常有限;
  • 批量发布消息:批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条消息出现了问题;
  • 异步处理:最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些;
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-23 10:51:49  更:2021-07-23 10:52:02 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/5 7:20:49-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码