| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> Java知识库 -> 【Kafka】kafka的基本架构和安装配置 -> 正文阅读 |
|
[Java知识库]【Kafka】kafka的基本架构和安装配置 |
传统消息队列的应用场景: 使用消息队列的好处:
1、kafka消费模式: 点对点消费模式:一对一,消费者主动拉取数据,消息收到后消息清除。 发布/订阅模式:一对多,消费者消费数据后不会清除。 2、--------------------------------------------------------------------------------------------------------------------------- Linux环境安装配置kafka: kafka自带的Zookeeper程序使用bin/zookeeper-server-start.sh,以及bin/zookeeper-server-stop.sh来启动和停止Zookeeper。而Zookeeper的配制文件是config/zookeeper.properties,可以修改其中的参数。 1 启动zookeeper,加-daemon参数,可以在后台启动Zookeeper,输出的信息在保存在执行目录的logs/zookeeper.out文件中。 bin/zookeeper-server-start.sh -daemon config/zookeeper.properties 2 kafka的基本配置: kafka的配置文件在config/server.properties文件中,主要修改参数如下,更具体的参数说明以后再整理下。 broker.id是kafka?broker的编号,集群里每个broker的id需不同。我是从0开始。 listeners是监听地址,需要提供外网服务的话,要设置本地的IP地址。 log.dirs是日志目录,需要设置。 设置Zookeeper集群地址,我是在同一个服务器上搭建了kafka和Zookeeper,所以填的本地地址。 num.partitions?为新建Topic的默认Partition数量,partition数量提升,一定程度上可以提升并发性。 内部topic配置:内部__consumer_offsets和__transaction_state两个topic,分组元数据的复制因子,为了保证可用性,在生产上建议设置大于1。 default.replication.factor为kafka保存消息的副本数,如果一个副本失效了,另一个还可以继续提供服务,是在自动创建topic时的默认副本数,可以设置为3。 num.network.threads=3?#用来处理磁盘 IO 的现成数量?,num.io.threads=8?#发送套接字的缓冲区大小?socket.send.buffer.bytes=102400?#接收套接字的缓冲区大小?socket.receive.buffer.bytes=102400?#请求套接字的缓冲区大小?socket.request.max.bytes=104857600 3 启动Kafka: bin/kafka-server-start.sh -daemon config/server.properties 4 停止Kafka: bin/kafka-server-stop.sh config/server.properties 5 单机版测试zk和kafka: (新版的Kafka中的不需要zk连接字符串,即- -zookeeper localhost:2181。使用 Kafka Broker的 --bootstrap-server localhost:9092来替代- -zookeeper localhost:2181) 原命令:bin/kafka-topics.sh--create --zookeeper 192.168.202.128:2181--replication-factor 3--partitions 3--topic test 创建topic和使用: bin/kafka-topics.sh --bootstrap-server localhost:9092 --create --topic test --partitions 1 --replication-factor 1 查看测试: ./kafka-console-producer.sh --broker-list localhost:9092 --topic test ./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning 当需要把以往的数据也进行显示的话,可以在命令后添加–from-beginning,接收数据成功。 查看topic列表:bin/kafka-topics.sh --list --bootstrap-server localhost:9092 查看topic明细:bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic test 删除topic:bin/kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test 修改topic: 增加分区数:bin/kafka-topics.sh --alter --bootstrap-server localhost:9092 --topic test1206 --partitions 3 增加配置:bin/kafka-configs.sh --bootstrap-server localhost:9092 --entity-type topics --entity-name test1206 --alter --add-config max.message.bytes=128000 查看:bin/kafka-configs.sh --bootstrap-server localhost:9092 --entity-type topics --entity-name test1206 --describe 删除配置:bin/kafka-configs.sh --bootstrap-server localhost:9092? --entity-type topics --entity-name test1206 --alter --delete-config max.message.bytes 查看:bin/kafka-configs.sh --bootstrap-server localhost:9092 --entity-type topics --entity-name test1206 --describe --------------------------------------------------------------------------------------------------------------------------------- 3、kafka的基本架构和名词解释:
4、topic基本使用:(详见目录2) |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/24 6:41:21- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |