Spark 应用程序和日志记录 MDC (Mapped Diagnostic Context)

Spark application and logging MDC (Mapped Diagnostic Context)

我正在寻找一种方法,将我的驱动程序的 MDC 转发给 master 和 worker,这样我就可以识别来自同一操作的消息?例如。我有一个依赖于 query/job-id 的应用程序,我想将其附加到我的 spark worker 中的结构化日志消息中。

此致。

如果我理解 PR correctly (I am new to Spark) then since version 3.1 现在应该可以通过 spark.sparkContext.setLocalProperty("mdc." + name, "value").

将自定义条目添加到 MDC