IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Kafka3.0集群部署(内附zookeeper3.5.7集群部署) -> 正文阅读

[大数据]Kafka3.0集群部署(内附zookeeper3.5.7集群部署)

zookeeper3.5.7分布式部署

下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/

  1. 解压到指定目录,修改文件夹名称
tar -zxvf zookeeper-3.5.7.tar.gz -C /opt/module/
cd /opt/module
mv apache-zookeeper-3.5.7-bin/ zookeeper
  1. 增加myid文件
cd /opt/module/zookeeper/
mkdir zkData
cd zkData
vim myid

写入0,保存退出

  1. 修改配置文件
cd /opt/module/zookeeper/conf
mv zoo_sample.cfg zoo.cfg
vim zoo.cfg

增加以下配置(如果已经有的就进行修改、这里要配置8887端口,默认8080)

dataDir=/opt/module/zookeeper/zkData
admin.serverPort=8887
server.1=master:2888:3888
server.2=slave1:2888:3888
server.3=slave2:2888:3888
  1. 分发至slave1、slave2节点
scp -r /opt/module/zookeeper root@slave1:/opt/module/
scp -r /opt/module/zookeeper root@slave2:/opt/module/

复制完成后到slave1和slave2上修改myid 分别为 2 3

  1. 到三台机器上进行启动
cd /opt/module/zookeeper
bin/zkServer.sh start

6.查看状态、确保zk没有问题在往下

bin/zkServer.sh status

在这里插入图片描述

kafka3.0分布式部署

官方下载地址:http://kafka.apache.org/downloads.html
在这里插入图片描述
上传项目到master节点,解压项目,修改文件夹名称为kafka

tar -zxvf kafka_2.12-3.0.0.tgz -C /opt/module/
cd /opt/module/
mv kafka_2.12-3.0.0/ kafka

修改配置文件

cd /opt/module/kafka/config/
vim server.properties

21行:broker 的全局唯一编号,不能重复,只能是数字。这里就设置为0
在这里插入图片描述
60行:kafka 运行日志(数据)存放的路径,路径不需要提前创建,kafka 自动帮你创建,可以配置多个磁盘路径,路径与路径之间可以用","分隔
在这里插入图片描述
123行:配置连接 Zookeeper 集群地址(在 zk 根目录下创建/kafka,方便管理)
在这里插入图片描述
分发到slave1和slave2

scp -r /opt/module/kafka root@slave1:/opt/module
scp -r /opt/module/kafka root@slave2:/opt/module

在slave1上修改配置文件broker.id=1

vim /opt/module/kafka/config/server.properties

在slave2上修改配置文件broker.id=2

vim /opt/module/kafka/config/server.properties

先启动zk(三个节点都执行)

cd /opt/module/zookeeper
bin/zkServer.sh start

再启动kafka(三个节点都执行)

cd /opt/module/kafka
bin/kafka-server-start.sh -daemon config/server.properties

测试:以下命令正常执行代表kakfa部署成功

创建一个topic

bin/kafka-topics.sh --bootstrap-server master:9092 --create --partitions 1 --replication-factor 3 --topic test

创建一个生产者

bin/kafka-console-producer.sh --broker-list master:9092 --topic  test

创建一个消费者

bin/kafka-console-consumer.sh --bootstrap-server master:9092 --from-beginning --topic test

查看topic

bin/kafka-topics.sh --bootstrap-server master:9092 --list
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-04-22 18:43:14  更:2022-04-22 18:46:37 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 2:43:37-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码