Flink 中的任务管理器亲和性
Task Manager Affinity in Flink
我们需要 运行 Flink 集群上的 10 个作业,其中 4 个未 CPU 绑定,因此对于它们,我们可以有 2xcpu 任务槽,但是,6 个作业是 CPU 绑定,他们需要大量的 CPU,即每个任务管理器上的 vpcu/2 个插槽。我的问题是如何告诉 Flink 使用 x 机器(任务管理器)来完成这项工作,而使用 y 任务管理器来完成另一项工作。我是否需要为 CPU 绑定作业创建一个单独的集群,或者是否有任何方法可以在单个集群中实现此目的
目前,您需要为此创建一个单独的集群。 FLIP-169: DataStream API for Fine-Grained Resource Requirements,在 Flink 1.14 中,可能会更好地支持这个用例。
我们需要 运行 Flink 集群上的 10 个作业,其中 4 个未 CPU 绑定,因此对于它们,我们可以有 2xcpu 任务槽,但是,6 个作业是 CPU 绑定,他们需要大量的 CPU,即每个任务管理器上的 vpcu/2 个插槽。我的问题是如何告诉 Flink 使用 x 机器(任务管理器)来完成这项工作,而使用 y 任务管理器来完成另一项工作。我是否需要为 CPU 绑定作业创建一个单独的集群,或者是否有任何方法可以在单个集群中实现此目的
目前,您需要为此创建一个单独的集群。 FLIP-169: DataStream API for Fine-Grained Resource Requirements,在 Flink 1.14 中,可能会更好地支持这个用例。