单机 搭建kafka集群 本地_Kafka单机环境搭建简记
最近在搞kettle整合kafka producer插件,于是自己搭建了一套單機的kafka環境,以便用于測試。現整理如下的筆記,發上來和大家分享。后續還會有kafka的研究筆記,依然會與大家分享!
1 kafka環境搭建
1.1 kafka單機環境搭建
(1)、解壓kafka_2.11-1.1.0.tgz,得到“kafka_2.11-1.1.0”文件夾。
(2)、kafka需要安裝zookee使用,但kafka集成zookeeper,在單機搭建時可直接使用。使用需配置kafka_2.11-1.1.0/config 下的“zookeeper.properties”。
(3)、配置“zookeeper.properties”。修改dataDir和clientPort。前者是快照存放地址(自己隨意配置),后者是客戶端連接zookeeper服務的端口。
(4)、配置kafka_2.11-1.1.0/config下的“server.properties”,修改log.dirs和zookeeper.connect。前者是日志存放文件夾,后者是zookeeper連接地址(端口和clientPort保持一致)。
到此,kafka的單機環境就搭建成功了。
2 kafka的相關命令
開啟kafka自帶zookeeper:
前臺運行:
bin/zookeeper-server-start.sh config/zookeeper.properties
后臺運行:
nohup bin/zookeeper-server-start.sh config/zookeeper.properties > zookeeper-run.log 2>&1 &
(關于后臺啟動命令,可看我的另一篇博客:《Linux后臺運行進程》)
開啟kafka:
前臺運行:
bin/kafka-server-start.sh config/server.properties
后臺運行:
nohup bin/kafka-server-start.sh config/server.properties > kafka-run.log 2>&1 &
創建kafka主題:
bin/kafka-topics.sh --create --zookeeper 10.45.xx.xx:2191 --replication-factor 1 --partitions 1 --topic test
顯示kafka所有主題:
bin/kafka-topics.sh -list -zookeeper 10.45.xx.xx:2191
創建kafka生產者:
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
創建kafka消費者:
bin/kafka-console-consumer.sh --zookeeper 10.45.xx.xx:2191 --topic test --from-beginning
解釋:
--zookeeper:后面接的是你配置的zookeeper地址
--broker-list:默認端口為9092.可自行更改
3 kafka的簡單使用
(1)、進入” kafka_2.11-1.1.0”文件夾,運行”開啟kafka自帶zookeeper”命令(最好用后臺模式)。記得進入日志中,檢查下啟動是否有錯誤。
(2)、確認zookeeper啟動成功后,繼續在當前目錄,運行“開啟kafka”命令(依然用后臺模式)。記得檢查日志。
(3)、確認兩者啟動完畢后,運行“創建kafka主題”命令。顯示紅框中內容,即為創建成功。
(4)、繼續在此目錄下,運行“創建kafka生產者”的命令。kafka默認端口是9092。(圖片里我自己改成了9192,沒改的直接用9092端口)。如圖,我發送了”qpf_test”的消息。
(5)、另起一個終端,仍在相同目錄下運行“創建kafka消費者”的命令。消費者會收到生產者發來的消息。如圖,我接收到了之前發的” qpf_test”的消息。
總結
以上是生活随笔為你收集整理的单机 搭建kafka集群 本地_Kafka单机环境搭建简记的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: VS.NET2005中的WEBPART初
- 下一篇: 放假了,回家了