RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

kafka相關(guān)命令詳解

網(wǎng)絡(luò)技術(shù)干貨圈 ? 來源:網(wǎng)絡(luò)技術(shù)干貨圈 ? 2023-10-20 11:34 ? 次閱讀

一、KAFKA啟停命令

1. 前臺(tái)啟動(dòng)

kafka 前臺(tái)啟動(dòng)命令:

bin/kafka-server-start.shconfig/server.properties

2. 后臺(tái)啟動(dòng)

kafka 后臺(tái)啟動(dòng)命令:
后臺(tái)常駐方式,帶上參數(shù) -daemon,如:

bin/kafka-server-start.sh-daemonconfig/server.properties

或者

nohupbin/kafka-server-start.shconfig/server.properties&

指定 JMX port 端口啟動(dòng),指定 jmx,可以方便監(jiān)控 Kafka 集群

JMX_PORT=9991/usr/local/kafka/bin/kafka-server-start.sh-daemon/usr/local/kafka/config/server.properties

3. 停止命令

kafka 停止命令:

bin/kafka-server-stop.sh

二、Topic 相關(guān)命令

2.1. 創(chuàng)建 Topic

參數(shù) --topic 指定 Topic 名,–partitions 指定分區(qū)數(shù),–replication-factor 指定備份(副本)數(shù)

創(chuàng)建名為 test_kafka_topic 的 Topic

bin/kafka-topics.sh-zookeeperlocalhost:2181--create--partitions5--replication-factor1--topictest_kafka_topic

注意,如果配置文件 server.properties 指定了 Kafka 在 zookeeper 上的目錄,則參數(shù)也要指定,否則會(huì)報(bào)無可用的 brokers(下面部分命令也有同樣的情況),如:

/usr/local/kafka/bin/kafka-topics.sh--create--zookeeperlocalhost:2181/kafka--replication-factor1--partitions1--topictest

2.2. 查詢 Topic 列表

列出所有 Topic

bin/kafka-topics.sh--list--zookeeperlocalhost:2181

2.3. 查詢 Topic 詳情

查詢 Topic 的詳細(xì)信息

bin/kafka-topics.sh--describe--zookeeperlocalhost:2181--topictest_kafka_topic

說明:如果未指定 topic 則輸出所有 topic 的信息

2.4. 增加 Topic 的 partition 數(shù)

bin/kafka-topics.sh--zookeeperlocalhost:2181--alter--topictest_kafka_topic--partitions5

2.5. 查看 topic 指定分區(qū) offset 的最大值或最小值

time 為 -1 時(shí)表示最大值,為 -2 時(shí)表示最小值:

bin/kafka-run-class.shkafka.tools.GetOffsetShell--topictest_kafka_topic--time-1--broker-list127.0.0.1:9092--partitions0

2.6. 刪除Topic

刪除名為 test_kafka_topic 的 Topic

bin/kafka-topics.sh--delete--zookeeperlocalhost:2181--topictest_kafka_topic

說明:在${KAFKA_HOME}/config/server.properties中配置 delete.topic.enable 為 true,這樣才能生效,刪除指定的 topic主題

三、消息 相關(guān)命令

3.1. 發(fā)送消息

生產(chǎn)者發(fā)送消息

bin/kafka-console-producer.sh--broker-listlocalhost:9092--topictest_kafka_topic

3.2. 消費(fèi)消息(從頭開始)

消費(fèi)者查詢消息

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--from-beginning--topictest_kafka_topic

3.3. 消費(fèi)消息(從尾開始)

從尾部開始取數(shù)據(jù)

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest

3.4. 消費(fèi)消息(從尾開始指定分區(qū))

從尾部開始取數(shù)據(jù),指定分區(qū)消費(fèi):

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest--partition0

3.5. 消費(fèi)消息(指定分區(qū)指定偏移量)

–partition 指定起始偏移量消費(fèi)–offset:

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--partition0--offset100

3.6. 指定分組->消費(fèi)消息

消費(fèi)者消費(fèi)消息(指定分組)
注意給客戶端命名之后,如果之前有過消費(fèi),那么–from-beginning就不會(huì)再從頭消費(fèi)了

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--from-beginning--topictest_kafka_topic--groupt1

說明:
–from-beginning:表示從頭開始接收數(shù)據(jù)
–group:指定消費(fèi)者組

3.7. 取指定個(gè)數(shù)

bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest_kafka_topic--offsetlatest--partition0--max-messages1

四、消費(fèi)者 Group

4.1. 指定 Group

指定分組從頭開始消費(fèi)消息(應(yīng)該會(huì)指定偏移量)

/usr/local/kafka/bin/kafka-console-consumer.sh--bootstrap-serverlocalhost:9092--topictest-grouptest_group--from-beginning

4.2. 消費(fèi)者 Group 列表

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--list

4.3. 查看 Group 詳情

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--describe

輸出日志:

Consumergroup'test_group'hasnoactivemembers.

TOPICPARTITIONCURRENT-OFFSETLOG-END-OFFSETLAGCONSUMER-IDHOSTCLIENT-ID
test0550---

#CURRENT-OFFSET:當(dāng)前消費(fèi)者群組最近提交的offset,也就是消費(fèi)者分區(qū)里讀取的當(dāng)前位置
#LOG-END-OFFSET:當(dāng)前最高水位偏移量,也就是最近一個(gè)讀取消息的偏移量,同時(shí)也是最近一個(gè)提交到集群的偏移量
#LAG:消費(fèi)者的CURRENT-OFFSET與broker的LOG-END-OFFSET之間的差距

4.4. 刪除 Group 中 Topic

bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--topictest--delete

4.5. 刪除 Group

/usr/local/kafka/bin/kafka-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_group--delete

五、補(bǔ)充命令

5.1.平衡 leader

bin/kafka-preferred-replica-election.sh--bootstrap-serverlocalhost:9092

5.2. 自帶壓測(cè)工具

bin/kafka-producer-perf-test.sh--topictest--num-records100--record-size1--throughput100--producer-propsbootstrap.servers=localhost:9092

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 參數(shù)
    +關(guān)注

    關(guān)注

    11

    文章

    1829

    瀏覽量

    32194
  • 端口
    +關(guān)注

    關(guān)注

    4

    文章

    963

    瀏覽量

    32051
  • 命令
    +關(guān)注

    關(guān)注

    5

    文章

    683

    瀏覽量

    22011
  • kafka
    +關(guān)注

    關(guān)注

    0

    文章

    51

    瀏覽量

    5214

原文標(biāo)題:kafka常用命令

文章出處:【微信號(hào):網(wǎng)絡(luò)技術(shù)干貨圈,微信公眾號(hào):網(wǎng)絡(luò)技術(shù)干貨圈】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    Kafka存儲(chǔ)機(jī)制詳解

    kafka通過topic來分主題存放數(shù)據(jù),主題內(nèi)有分區(qū),分區(qū)可以有多個(gè)副本,分區(qū)的內(nèi)部還細(xì)分為若干個(gè)segment。所謂的分區(qū)其實(shí)就是在kafka對(duì)應(yīng)存儲(chǔ)目錄下創(chuàng)建的文件夾,文件夾的名字是主題名加上
    發(fā)表于 05-08 16:26

    詳解消息中間件&Kafka

    消息中間件&Kafka
    發(fā)表于 09-11 07:54

    詳解Kafka學(xué)習(xí)

    Kafka學(xué)習(xí)筆記
    發(fā)表于 10-12 15:11

    kafka相關(guān)問題解答

    常見的kafka面試題
    發(fā)表于 10-25 06:16

    淺析kafka相關(guān)組件

    kafka相關(guān)組件topic、broker、producer、consumer原理及負(fù)載均衡策略
    發(fā)表于 04-03 11:34

    Kafka集群環(huán)境的搭建

    :2181,zk02:2181,zk03:2181注意:broker.id安裝集群服務(wù)個(gè)數(shù)編排即可,集群下不能重復(fù)。5、啟動(dòng)kafka集群# 啟動(dòng)命令[root@node02 kafka2.11]# bin
    發(fā)表于 01-05 17:55

    CAM填銅皮命令詳解

    CAM填銅皮命令詳解
    發(fā)表于 01-28 23:28 ?0次下載

    C2xx命令詳解

    C2xx命令詳解
    發(fā)表于 08-03 09:19 ?11次下載
    C2xx<b class='flag-5'>命令</b><b class='flag-5'>詳解</b>

    Linux關(guān)機(jī)命令詳解

    Linux關(guān)機(jī)命令詳解 在linux下一些常用的關(guān)機(jī)/重啟命令有shutdown、halt、reboot、及init,它們都 可以達(dá)到重啟系統(tǒng)的目的,但每個(gè)命令的內(nèi)部工作過程是不同的
    發(fā)表于 01-18 12:52 ?3630次閱讀

    Kafka和消息隊(duì)列的關(guān)系

    本文的目的是讓讀者快速了解Kafka與消息隊(duì)列之間的關(guān)系,告訴讀者為什么會(huì)考慮使用它的原因。以下為譯文。 Kafka最初是由Linkedin社區(qū)開發(fā)的一項(xiàng)技術(shù)。簡(jiǎn)而言之,它有點(diǎn)像消息隊(duì)列系統(tǒng),但它
    發(fā)表于 09-28 17:15 ?0次下載
    <b class='flag-5'>Kafka</b>和消息隊(duì)列的關(guān)系

    Kafka的概念及Kafka的宕機(jī)

    問題要從一次Kafka的宕機(jī)開始說起。 筆者所在的是一家金融科技公司,但公司內(nèi)部并沒有采用在金融支付領(lǐng)域更為流行的 RabbitMQ ,而是采用了設(shè)計(jì)之初就為日志處理而生的 Kafka ,所以我一直
    的頭像 發(fā)表于 08-27 11:21 ?2093次閱讀
    <b class='flag-5'>Kafka</b>的概念及<b class='flag-5'>Kafka</b>的宕機(jī)

    Backup-和Restore-命令詳解

    Backup-和Restore-命令詳解(力普拉斯電源技術(shù)有限公司)-文檔為Backup-和Restore-命令詳解總結(jié)文檔,是一份不錯(cuò)的參考資料,感興趣的可以下載看看,,,,,,,,
    發(fā)表于 09-17 12:00 ?5次下載
    Backup-和Restore-<b class='flag-5'>命令</b><b class='flag-5'>詳解</b>

    Oracle-SQLPLUS基礎(chǔ)及sqlplus命令詳解

    Oracle-SQLPLUS基礎(chǔ)及sqlplus命令詳解(開關(guān)電源技術(shù)發(fā)展方向)-該文檔為Oracle-SQLPLUS基礎(chǔ)及sqlplus命令詳解文檔 ,是一份還算不錯(cuò)的參考文檔,感興
    發(fā)表于 09-28 13:26 ?13次下載
    Oracle-SQLPLUS基礎(chǔ)及sqlplus<b class='flag-5'>命令</b><b class='flag-5'>詳解</b>

    kafka基本原理詳解

    今天浩道跟大家分享一篇關(guān)于kafka相關(guān)原理的硬核干貨,可以說即使你沒有接觸過kafka,也可以秒懂,一起看看!
    的頭像 發(fā)表于 01-03 09:57 ?882次閱讀
    <b class='flag-5'>kafka</b>基本原理<b class='flag-5'>詳解</b>

    詳解kubectl常用命令

    詳解kubectl常用命令
    的頭像 發(fā)表于 11-05 15:39 ?193次閱讀
    <b class='flag-5'>詳解</b>kubectl常用<b class='flag-5'>命令</b>
    RM新时代网站-首页