Logstash 从 grok 过滤器添加字段

Question

是否可以使用 grok 和 mutate 将消息匹配到 logstash 中的新字段？

示例日志：

"<30>Dec 19 11:37:56 7f87c507df2a[20103]: [INFO] 2018-12-19 16:37:56 _internal (MainThread): 192.168.0.6 - - [19/Dec/2018 16:37:56] \"\u001b[37mGET / HTTP/1.1\u001b[0m\" 200 -\r"

我正在尝试创建一个新的键值，我将 container_id 匹配到 7f87c507df2a。

filter {
  grok {
    match => [ "message", "%{SYSLOG5424PRI}%{NONNEGINT:ver} +(?:%{TIMESTAMP_ISO8601:ts}|-) +(?:%{HOSTNAME:service}|-) +(?:%{NOTSPACE:containerName}|-) +(?:%{NOTSPACE:proc}|-) +(?:%{WORD:msgid}|-) +(?:%{SYSLOG5424SD:sd}|-|) +%{GREEDYDATA:msg}" ]
  }
  mutate {
    add_field => { "container_id" => "%{containerName}"}
  }
}

生成的日志文件呈现此内容，其中 containerName 的值未从 grok 中引用，它只是一个字符串文字：

"container_id": "%{containerName}"

我正在尝试创建 conf：

"container_id": "7f87c507df2a"

显然 containerName 的值没有从 grok 链接。我想做的事有可能吗？

Answer 1

如评论中所述，我的 grok 模式不正确。对于任何可能需要 grok 帮助的 post 的人，请前往 here 以减少构建模式的时间。

这是工作快照：

filter {
  grok {
    match => [ "message", "\A%{SYSLOG5424PRI}%{SYSLOGTIMESTAMP}%{SPACE}%{BASE16NUM:docker_id}%{SYSLOG5424SD}%{GREEDYDATA:python_log_message}" ]
    add_field => { "container_id" => "%{docker_id}" }    
  }  
}

Logstash 从 grok 过滤器添加字段

Logstash Add field from grok filter

logstash

logstash-grok

logstash-configuration