kafka用了 零拷贝+页缓存
实际上是借助零拷贝 只用了堆外内存(页缓存)
RockerMQ、Redis用了 mmap+页缓存
实际上是用的 堆内内存 + 堆外内存(页缓存) 在堆内内存里存储mmap内存映射关系
因为rabbitMQ默认不持久化
持久化并不是rabbitMQ的核心功能点。所以rabbitMQ并没有使用 零拷贝、mmap、页缓存去优化读写性能
零拷贝sendFile
kafka里:数据直接由磁盘->内核态->socket网关
redis里:主从同步时、日志文件不进入用户态直接在内核态完成sendfile调用
MMAP共享缓存、内存映射
Redis里、rabbitMQ、RocketMQ里都使用了mmap进行性能优化
功能
减少了数据传输、处理时的用户态 内核态的切换次数
减少了数据的拷贝次数,用户态拷贝到内核态
节省了内核态拷贝到用户态的开销
redis里的MMAP
1、MMAP里使用了两个存储结构
1.1红黑树
连接建立后生成文件描述符放入mmap里、以红黑树的形式去存储
存储两端建立的每一个连接
每个链接都是 一个文件描述符
redis服务线程会监听这些链接里是否有数据、请求到达
1.2链表
作为任务队列存储待处理的请求
异步io线程和主线程去处理队列里的请求、返回响应
2、线程在使用mmap里的数据时
无需进行内核态的切换,因为此空间是 用户态和内核态共享的
无需进行描述符的复制,因为是共享的、直接通过引用获取即可
文件描述符
两端建立的每一个socket连接
对于redis的系统内核 kernal 而言都是一个文件描述符
就会把这个链接是生成一个文件描述符去存储在内核态
redis的发展史
epoll任务驱动模型
Epoll基础
因为检测到连接里有数据到达时 才会触发事件,所以才被称为任务驱动模型
通过Epoll模型,制定了请求的处理流程,优化高并发的性能问题
即使是同一时刻到达的两个请求,进入网卡以后
通过redis系统的Epoll机制,也能保证排队处理
epoll是poll的一种优化,只会监听、维护活跃状态下的连接
epoll在完成整个流程时的各个步骤
文字描述比较多,这里直接懒省事、贴图片了
|