LD is tigger forever,CG are not brothers forever, throw the pot and shine forever. Modesty is not false, solid is not naive, treacherous but not deceitful, stay with good people, and stay away from poor people. talk is cheap, show others the code and KPI, Keep progress,make a better result. Survive during the day and develop at night。
目录
概 述
Kafka-之分区管理(优先副本选举、分区重分配、副本复制限流,修改副本因子) kafka内部的分区管理可以从几个方面去介绍。 1、优先副本的选举 2、分区重新分配 3、复制限流 4、修改副本因子
1 优先副本选举 优先副本选举主要是为了让所有的分区尽可能分布在不同的broker上的一种机制,那么什么是优先副本?优先副本是AR种的第一个副本,这个副本通常为leader,假如这个副本不是leader,那么这个副本就是非优先副本。
假如我们通过以下方式创建一个topic_a,分区数为3,副本因子也为3.
2 分区重分配
分区重新分配,主要是在需要进行横向扩展Broker的时候或者有计划下线Broker的时候使用,假如在Kafka集群中新加入了一个Broker,那么只有新增的topic对应的分区才会分配到该节点上,之前的topic数据是不会分配给该节点的,这就导致了新增节点与原先节点数据的严重不均衡,所以kafka提供了kafka-reassign-partitions.sh脚本,在节点扩展、Broker下线的时候通过数据复制的方式重新分配分区,该脚本的使用分3个步骤:
创建一个包含主题清单的json文件
根据主题清单与broker清单生成一份重新分配方案
- 根据
方案执行重分配动作
小结
参考资料和推荐阅读
1.链接: 参考资料.
|