Flink 检查点不断失败(等待 InitProducerId 时超时)

Flink checkpoints keep failing (Timeout while awaiting InitProducerId)

在翻阅了许多 SO 帖子甚至 JIRA 问题后,我不知道该去哪里找了。 Flink 中的每个检查点都因超时而失败,在作业的异常部分显示以下错误,但是作业本身并没有失败:

org.apache.kafka.common.errors.TimeoutException: Timeout expired after 600000milliseconds while awaiting InitProducerId

当禁用检查点时,关于 Kafka 的一切都按预期工作,所以我的假设是它可能与等待 Kafka 提交以便被确认的检查点有关(Semantic 设置为 EXACTLY_ONCE).我记得读过导致问题的超时不匹配,所以我将我的 FlinkKafkaProducer 中的 TRANSACTION_TIMEOUT_CONFIG 对齐到 900000 毫秒。

我还调整了 TransactionTimeout 和 MaxBlockMS,正如 this 问题中所建议的,现在有很多关于这个完全相同的错误的讨论,但显然没有解决方案。

Flink 书籍“Stream Processing with Apache Flink”建议仔细修改 Kafka 配置,例如ackslog.flush.interval.messageslog.flush.interval.mslog.flush.*。虽然我们已经在 Flink 1.9.1 下工作了,但是自从我们升级到 1.11.1 之后它就不再工作了。我不知道是否有人在此期间触及了 Kafka 设置,但据我所知,大多数设置都保留为默认设置,log.flush.interval=10000 除外。我们像以前一样使用 Confluent 5.3.3,这意味着 Kafka 2.3.1.

另外,Flink作业部署在单节点环境下,所以它应该可以访问文件系统,整个目录都属于用户运行Flink服务(是一个建议的解决方案在另一个 SO 线程中)。

有人知道是什么原因导致这些检查点失败吗?

好吧,在对此感到非常头疼之后,我终于找到了问题所在:Kafka 设置 实际上被 更改了,因为 transaction.state.log.replication.factor 低于 transaction.state.log.min.isr,导致没有事务真正成功,因为 Kafka 主题的副本永远不够 in-sync。