多台服务器上的 Kafka
Kafka on Multiple Servers
我按照这个 link 安装了 Kafka + Zookeeper。一切正常,但我在 2 台服务器上设置了 Kafka + Zookeeper。
我已将 kafka/config/server.properties
设置为:
- 服务器 1:
broker.id = 0
- 服务器 1:
zookeeper.connect = localhost:2181,99.99.99.91:2181
- 服务器 2:
broker.id = 1
- 服务器 2:
zookeeper.connect = localhost:2181,99.99.99.92:2181
我想知道以下问题:
- 当我发布一个主题时,它是转到两个实例,还是只转到加载它的服务器?
- 为了像这样使用多个服务器,我是否需要在 3 个服务器上使用类似 HAProxy 的东西?
- 我在使用 3 台服务器时有什么重要的遗漏吗?
感谢您的回答。
一开始,我假设这里提到的实例是指 Kafka 服务器实例。
问题#1:新创建的主题的信息将存储在 Zookeeper 中,一些关键信息将加载到所有代理的元数据缓存缓冲区中。
问题#2:无需为Kafka 集群配置任何类型的代理服务器。它自行管理以实现故障转移和负载平衡。
问题 #3:分配一个未使用的 ID 和数据目录,就像您为这两个代理所做的那样就足够了。
最后但同样重要的是,由于ZAB需要多数,zookeeper quorum最好使用奇数台机器。
我按照这个 link 安装了 Kafka + Zookeeper。一切正常,但我在 2 台服务器上设置了 Kafka + Zookeeper。
我已将 kafka/config/server.properties
设置为:
- 服务器 1:
broker.id = 0
- 服务器 1:
zookeeper.connect = localhost:2181,99.99.99.91:2181
- 服务器 2:
broker.id = 1
- 服务器 2:
zookeeper.connect = localhost:2181,99.99.99.92:2181
我想知道以下问题:
- 当我发布一个主题时,它是转到两个实例,还是只转到加载它的服务器?
- 为了像这样使用多个服务器,我是否需要在 3 个服务器上使用类似 HAProxy 的东西?
- 我在使用 3 台服务器时有什么重要的遗漏吗?
感谢您的回答。
一开始,我假设这里提到的实例是指 Kafka 服务器实例。
问题#1:新创建的主题的信息将存储在 Zookeeper 中,一些关键信息将加载到所有代理的元数据缓存缓冲区中。
问题#2:无需为Kafka 集群配置任何类型的代理服务器。它自行管理以实现故障转移和负载平衡。
问题 #3:分配一个未使用的 ID 和数据目录,就像您为这两个代理所做的那样就足够了。
最后但同样重要的是,由于ZAB需要多数,zookeeper quorum最好使用奇数台机器。