将特定的 MDC 字段附加到 logstash 日志中

Question

我正在尝试将自定义字段添加到 logback-spring.xml 中的 logstash appender 中：

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
<appender name="stash" class="net.logstash.logback.appender.LogstashSocketAppender">
        <host>xx.xx.xx.xx</host>
        <port>xxxxx</port>
        <encoder class="net.logstash.logback.encoder.LogstashEncoder">
            <includeMdcKeyName>myField</includeMdcKeyName>
        </encoder>
</appender>

<root level="info">
    <appender-ref ref="stash" />
</root>

</configuration>

它给我错误：

Exception in thread "main" java.lang.IllegalStateException: Logback configuration error detected: ERROR in ch.qos.logback.core.joran.spi.Interpreter@34:71 - no applicable action for [encoder], current ElementPath is [[configuration][appender][encoder]]

当我尝试控制台附加程序时，我尝试像下面的示例一样打印该字段。

<layout>
      <Pattern>%-4r [%thread] %-5level My Field: [%X{myField:--}] %msg%n</Pattern>
</layout>

你能告诉我我在 udp appender 上做错了什么吗？谢谢指教。

Answer 1

您正在使用 UDP appender, and it does not have an encoder. You should use TCP Appender（LogstashTcpSocketAppender 而不是 LogstashSocketAppender）：

<appender name="stash" class="net.logstash.logback.appender.LogstashTcpSocketAppender">
    <destination>xx.xx.xx.xx:xxxxx</destination>
    <encoder class="net.logstash.logback.encoder.LogstashEncoder">
        <includeMdcKeyName>myField</includeMdcKeyName>
    </encoder>
</appender>

看看我创建的演示项目here。

This code（科特林）：

MDC.put("mdc", "so53558553")

LOG.warn("Warn")

像这样的 logback-spring.xml:

<appender name="logstash" class="net.logstash.logback.appender.LogstashTcpSocketAppender">
    <destination>localhost:5000</destination>
    <encoder class="net.logstash.logback.encoder.LogstashEncoder">
        <includeMdcKeyName>mdc</includeMdcKeyName>
    </encoder>
</appender>

在 Logstash 中生成此类记录：

{
    "level_value" => 30000,
            "mdc" => "so53558553",
           "port" => 35450,
    "logger_name" => "by.dev.madhead.playgrounds.so53558553.SpringBootConsoleApplication",
           "host" => "172.17.0.1",
       "@version" => "1",
     "@timestamp" => 2018-12-03T01:16:28.793Z,
    "thread_name" => "main",
        "message" => "Warn",
          "level" => "WARN"
}

如您所见，mdc 值被 Logstash 视为 LoggingEvent.

中的一个字段

编辑

由于 ELK 配置错误，您可能无法在 Kibana 中看到您的字段。我正在粘贴我的 Logstash pipiline 配置 (/etc/logstash/conf.d/01-input.conf) 仅供参考（非常基本）：

input {
    tcp {
        port => 5000
        codec => json_lines
    }
}

output {
    elasticsearch {
        hosts => [ "localhost:9200" ]
        index => "logback-%{+YYYY.MM.dd}"
    }
}

然后我在 Kibana 中配置了 logback-* 模式的日志：

瞧：

将特定的 MDC 字段附加到 logstash 日志中

Append specific MDC field into logstash log

logging

spring

log4j

logback

logstash