Kafka 流读取和写入到单独的集群

Kafka streams read & write to separate cluster

之前已经回答过类似的问题,但该解决方案不适用于我的用例。

我们 运行 2 个 Kafka 集群,每个集群在 2 个独立的 DC 中。我们的整体传入流量在这 2 个 DC 之间分配。

我会 运行在每个 DC 中使用单独的 Kafka 流应用程序来转换该数据,并希望在单个 DC 中写入 Kafka 主题 。 我怎样才能做到这一点?

最终我们将在 Druid 中索引 kafka 主题数据。由于我们正在尝试聚合数据,因此无法 运行 分离 Druid 集群。

我读到过单个 Kafka 流是不可能的。有没有办法可以使用另一个 Kafka 流从 DC1 读取并写入 DC2 kafka 集群?

正如您自己所写,您不能使用 Kafka Streams API 从 Kafka 集群 A 读取并写入不同的 Kafka 集群 B。

相反,如果您想在 Kafka 集群之间移动数据(无论是在同一个 DC 中还是跨 DC),您应该使用 Apache Kafka 等工具 Mirror Maker or Confluent Replicator