如何为托管在 Kubernetes 中的多个应用程序选择 Kafka 事务 ID?
How to choose Kafka transaction id for several applications, hosted in Kubernetes?
我有一个经典的微服务架构。因此,有不同的应用程序。每个应用程序可能有 1..N
个实例。系统部署到Kubernetes.
所以,我们有很多不同PODs
,可以随时启动和停止。
我想实现 read-process-write 模式,所以我需要 Kafka 事务。
要配置事务,我需要为每个 Kafka 生产者设置一些 transaction id
。 (实际上,我需要 transaction-id-prefix
,因为我的应用程序使用 Spring,它有这样的 API
)。这些 IDs
必须相同,应用程序重新启动后。
那么,如何为托管在 Kubernetes 中的多个应用程序选择 Kafka 事务 ID?
如果消费者启动事务(读取-处理-写入),则同一应用程序的所有实例的事务 ID 前缀必须相同(以便僵尸防护在重新平衡后正常工作)。实际使用的交易ID是<prefix><group>.<topic>.<partition>
.
如果您有多个应用程序,它们应该有唯一的前缀(尽管如果它们从不同的主题消费,它们无论如何都是唯一的)。
对于仅限生产者的交易,前缀在每个实例中必须是唯一的(以防止 kafka 屏蔽生产者)。
我有一个经典的微服务架构。因此,有不同的应用程序。每个应用程序可能有 1..N
个实例。系统部署到Kubernetes.
所以,我们有很多不同PODs
,可以随时启动和停止。
我想实现 read-process-write 模式,所以我需要 Kafka 事务。
要配置事务,我需要为每个 Kafka 生产者设置一些 transaction id
。 (实际上,我需要 transaction-id-prefix
,因为我的应用程序使用 Spring,它有这样的 API
)。这些 IDs
必须相同,应用程序重新启动后。
那么,如何为托管在 Kubernetes 中的多个应用程序选择 Kafka 事务 ID?
如果消费者启动事务(读取-处理-写入),则同一应用程序的所有实例的事务 ID 前缀必须相同(以便僵尸防护在重新平衡后正常工作)。实际使用的交易ID是<prefix><group>.<topic>.<partition>
.
如果您有多个应用程序,它们应该有唯一的前缀(尽管如果它们从不同的主题消费,它们无论如何都是唯一的)。
对于仅限生产者的交易,前缀在每个实例中必须是唯一的(以防止 kafka 屏蔽生产者)。