一、Kafka架构深入
1.1 Kafka工作流程和文件存储机制
参考链接:https://blog.csdn.net/hyunbar/article/details/107588593
思考以下几个问题:
-
kafka可靠性和一致性如何保证? 事务性参考文档:https://blog.csdn.net/u012957549/article/details/97679399 Ask机制(ISR+HW+LEO+OFFSET)参考文档:https://blog.csdn.net/CSDN___LYY/article/details/85696326 -
kafka事务性幂等性的理解? 事务性幂等性参考文档:https://blog.csdn.net/u012957549/article/details/97679399
1.2 Kafka生产者
1.2.1 分区策略和可靠性保证
参考文档:https://blog.csdn.net/bupttulongming/article/details/110732035
1.3 Kafka消费者
1.3.1 消费方式和分区分配策略
参考文档:https://blog.csdn.net/XU906722/article/details/104174432
1.3.2 offset的维护
参考文档:https://blog.csdn.net/weixin_43597208/article/details/115279986
1.3.3 消费者组案例
参考文档:https://blog.csdn.net/qq_41489540/article/details/113307319
知识点:
- 相同topic下的相同分区,相同消费者组下的消费者同时刻只能有一个能消费
- 相同topic下的相同分区,不同消费者组下的消费者同时刻可以同时消费
- 消费者组中消费者数量发生变化时,消费者组消费的模式将会自动发生改变(重新分配)
1.3.4 Kafka高效读写数据
参考文档:https://blog.csdn.net/qq_35930102/article/details/108177751
- 顺序写磁盘
- 零拷贝
- 分区并发读写
- Memory Mapped Files(MMAP:内存映射文件,通过虚拟内存来提高读写效率)
1.3.5 ZK的作用
参考文档:https://blog.csdn.net/maoyeqiu/article/details/102715254
1.3.6 Kafka事务
参考文档:https://blog.csdn.net/fy_java1995/article/details/106410666
|