博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
kafka集群搭建与使用
阅读量:4352 次
发布时间:2019-06-07

本文共 2400 字,大约阅读时间需要 8 分钟。

1、准备环境

  1.1安装jdk(省略)

  2.2安装zookeeper集群(省略)

2、下载安装包并解压

# wget https://archive.apache.org/dist/kafka/1.1.0/kafka_2.11-1.1.0.tgz# tar -xzf kafka_2.11-1.1.0.tgz# cd kafka_2.11-1.1.0

 

3、修改配置文件 分别在128,129,130上修改

broker.id=0  每台服务器的broker.id都不能相同#hostnamehost.name=192.168.0.128#设置zookeeper的连接端口zookeeper.connect=192.168.0.128:2181,192.168.0.129:2181,192.168.0.130:2181

 

4、启动  三台都要启动

sh bin/kafka-server-start.sh -daemon config/server.properties

 

5、创建主题

sh bin/kafka-topics.sh --create --zookeeper 192.168.0.128:2181 --replication-factor 2 --partitions 1 --topic houge ##查看主题 sh bin/kafka-topics.sh --list --zookeeper 192.168.0.128:2181 ##查看主题详细信息 sh bin/kafka-topics.sh --describe --zookeeper 192.168.0.128:2181 --topic houge

6、发送消息

sh bin/kafka-console-producer.sh --broker-list 192.168.0.128:9092 --topic houge > > >

 

7、消费消息

 

##旧版 sh bin/kafka-console-consumer.sh --zookeeper 192.168.0.128:2181 --topic houge   --from-beginning

 ##新版

  sh bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092  --consumer-property group.id=testGroup --consumer-property client.id=consumer-1  --topic houge

 

8、查看分组

 

sh bin/kafka-consumer-groups.sh --bootstrap-server 192.168.0.128:9092 --list --new-consumer

 

 

9、查看消费者偏移量

 

bin/kafka-consumer-groups.sh --bootstrap-server 192.168.0.128:9092 --describe --group testGroup

 

10、消费多主题

bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092 --whitelist "houge|houge-2"

11、单播消息

  一条消息只能被某一个消费者消费的模式,类似queue模式,只需让所有消费者在同一个消费组里即可

  分别在两个客户端执行如下消费命令,然后往主题里发送消息,结果只有一个客户端能收到消息

##129 bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092  --consumer-property group.id=testGroup --consumer-property client.id=consumer-1  --topic houge##130bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092  --consumer-property group.id=testGroup --consumer-property client.id=consumer-2  --topic houge

 

12、多播消息

      一条消息能被多个消费者消费的模式,类似publish-subscribe模式费,针对Kafka同一条消息只能被同一个消费组下的某一个消费者消费的特性,要实现多播只要保证这些消费者属于不同的消费组即可。我们再增加一个消费者,该消费者属于   testGroup-2消费组,结果两个客户端都能收到消息

##129bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092  --consumer-property group.id=testGroup-1 --consumer-property client.id=consumer-1  --topic houge##130bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.128:9092  --consumer-property group.id=testGroup-2 --consumer-property client.id=consumer-2  --topic houge

 

 

 

转载于:https://www.cnblogs.com/monkeybrother/p/10830800.html

你可能感兴趣的文章
个人博客3-微软必应词典客户端的案例分析
查看>>
修改oracle密码
查看>>
第四百八十三天 how can I 坚持
查看>>
Packetbeat协议扩展开发教程(2)
查看>>
深入tornado中的http1connection
查看>>
Python开发【第九篇】:协程、异步IO
查看>>
Codeforces Round #243 (Div. 2)——Sereja and Table
查看>>
排序算法之堆排序
查看>>
什么是Pro*C/C++,嵌入式SQL,第一个pro*c程序,pro*c++,Makefile,Proc增删改查
查看>>
给久坐族的10个保健建议
查看>>
RedHat9.0下载地址
查看>>
走势终完美 --执子之手
查看>>
补全左括号
查看>>
javascript中关于坐标 大小 的描述
查看>>
8086CPU各寄存器的用途
查看>>
$.ajax()方法详解
查看>>
C++ map的使用
查看>>
WebService 测试地址
查看>>
AngularJs中,如何在render完成之后,执行Js脚本
查看>>
Nginx 防盗链
查看>>