IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> redis的高并发解决方案epoll任务驱动模型 + MQ和kafka的高性能读写实现方案 页缓存+零拷贝+MMAP共享缓存、内存映射 -> 正文阅读

[大数据]redis的高并发解决方案epoll任务驱动模型 + MQ和kafka的高性能读写实现方案 页缓存+零拷贝+MMAP共享缓存、内存映射

kafka用了 零拷贝+页缓存

实际上是借助零拷贝 只用了堆外内存(页缓存)

RockerMQ、Redis用了 mmap+页缓存

实际上是用的 堆内内存 + 堆外内存(页缓存) 在堆内内存里存储mmap内存映射关系

因为rabbitMQ默认不持久化

持久化并不是rabbitMQ的核心功能点。所以rabbitMQ并没有使用 零拷贝、mmap、页缓存去优化读写性能

零拷贝sendFile


	kafka里:数据直接由磁盘->内核态->socket网关
	redis里:主从同步时、日志文件不进入用户态直接在内核态完成sendfile调用

MMAP共享缓存、内存映射

Redis里、rabbitMQ、RocketMQ里都使用了mmap进行性能优化

功能
	减少了数据传输、处理时的用户态 内核态的切换次数
	减少了数据的拷贝次数,用户态拷贝到内核态
		 节省了内核态拷贝到用户态的开销

在这里插入图片描述

redis里的MMAP

1、MMAP里使用了两个存储结构
	1.1红黑树
		连接建立后生成文件描述符放入mmap里、以红黑树的形式去存储
		存储两端建立的每一个连接
			每个链接都是 一个文件描述符
			redis服务线程会监听这些链接里是否有数据、请求到达
	1.2链表
		作为任务队列存储待处理的请求
			异步io线程和主线程去处理队列里的请求、返回响应
2、线程在使用mmap里的数据时
	无需进行内核态的切换,因为此空间是 用户态和内核态共享的
	无需进行描述符的复制,因为是共享的、直接通过引用获取即可

在这里插入图片描述

文件描述符

	两端建立的每一个socket连接
		对于redis的系统内核 kernal 而言都是一个文件描述符
		就会把这个链接是生成一个文件描述符去存储在内核态

redis的发展史

在这里插入图片描述

epoll任务驱动模型

Epoll基础
	因为检测到连接里有数据到达时 才会触发事件,所以才被称为任务驱动模型
	通过Epoll模型,制定了请求的处理流程,优化高并发的性能问题
	即使是同一时刻到达的两个请求,进入网卡以后	
			通过redis系统的Epoll机制,也能保证排队处理
	epoll是poll的一种优化,只会监听、维护活跃状态下的连接

epoll在完成整个流程时的各个步骤

文字描述比较多,这里直接懒省事、贴图片了
在这里插入图片描述

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-09-04 01:18:22  更:2022-09-04 01:18:57 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 11:09:16-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码