IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> kafka常用命令集 -> 正文阅读

[大数据]kafka常用命令集

创建topic(4个分区,2个副本)

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test

获取当前kafka的topics

kafka-topics --list --zookeeper zoo1:2181
kafka-topics --list --zookeeper zoo1:2181 --describe

查看某一个topic 的详细信息

kafka-topics --zookeeper zoo1:2181 --topic mytopic --describe

删除某一个topic

kafka-topics --zookeeper zoo1:2181 --delete --topic mytopic

消费数据

kafka-console-consumer.sh --bootstrap-server kafka1:9092,kafka2:9092,kafka3:9092 --topic mytopic–group admin --from-beginning

消费数据到某个文件

kafka-console-consumer.sh --bootstrap-server kafka1:9092,kafka2:9092,kafka3:9092 --topic mytopic–group wujing --from-beginning -> hello.txt

生产者发送数据

kafka-console-producer.sh --broker-list kafka1:9092,kafka2:9092,kafka3:9092 --topic mytopic

查看主题的情况

kafka-consumer-groups.sh --bootstrap-server kafka1:9092,kafka2:9092,kafka3:9092 --group group --describe

主题分区当前位置结束位置剩余消费者id主机客户端id
TOPICPARTITIONCURRENT-OFFSETLOG-END-OFFSETLAGCONSUMER-IDHOSTCLIENT-ID
mytopic0229022900consumer-1-2af329b2/192.168.1.114consumer-1

列出所有的消费者

kafka-consumer-groups --bootstrap-server kafka1:9092,kafka2:9092,kafka3:9092 --list

kafka版本 >= 2.2

bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

分区扩容

kafka版本 < 2.2

bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic topic1 --partitions 2

kafka版本 >= 2.2

bin/kafka-topics.sh --bootstrap-server broker_host:port --alter --topic topic1 --partitions 2

删除topic

bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic test

查询集群描述

bin/kafka-topics.sh --describe --zookeeper 127.0.0.1:2181

topic列表查询

bin/kafka-topics.sh --zookeeper 127.0.0.1:2181 --list

topic列表查询(支持0.9版本+)

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

新消费者列表查询(支持0.9版本+)

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --list

新消费者列表查询(支持0.10版本+)

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list

显示某个消费组的消费详情(仅支持offset存储在zookeeper上的)

bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper localhost:2181 --group test

显示某个消费组的消费详情(0.9版本 - 0.10.1.0 之前)

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --describe --group test-consumer-group

显示某个消费组的消费详情(0.10.1.0版本+)

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group my-group

生产者

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

消费者

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test

新生产者(支持0.9版本+)

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test --producer.config config/producer.properties

新消费者(支持0.9版本+)

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --new-consumer --from-beginning --consumer.config config/consumer.properties

kafka-verifiable-consumer.sh(消费者事件,例如:offset提交等)

bin/kafka-verifiable-consumer.sh --broker-list localhost:9092 --topic test --group-id groupName

高级点的用法

bin/kafka-simple-consumer-shell.sh --brist localhost:9092 --topic test --partition 0 --offset 1234 --max-messages 10

kafka版本 <= 2.4

bin/kafka-preferred-replica-election.sh --zookeeper zk_host:port/chroot

kafka新版本

bin/kafka-preferred-replica-election.sh --bootstrap-server broker_host:port

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-19 12:07:10  更:2021-08-19 12:09:29 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 13:13:42-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码