在 Kibana 上可视化静态日志文件
Visualising static log files on Kibana
我有几个 Apache 服务器日志,我想将其解析到 Kibana 中以进行可视化。现在,我尝试设置 Elasticsearch + Kibana + Filebeat 来获取这些服务器日志。但是,Filebeat 似乎占用了相当多的 CPU 用法。
这些日志是静态的,即我收集的旧日志。因此,我不需要 Filebeat 主动监控功能。在这种情况下,是否有任何其他替代方法可以让我仅将 Apache 服务器日志导入 Kibana 一次?
另外,作为旁注,filebeat 和 logstash 之间有什么区别?我读到 logstash 能够从日志中解析出更多信息,例如地理位置。但是,在尝试我的方法时,似乎 filebeat 的 apache 模块也可以这样做。
Filebeat 将监视给定目录中的日志以了解更改。您可以通过将已处理的文件移动到未监视的目录或设置 ignore_older
option 来控制它。另请查看以 close_
开头的选项,以获得该区域的更多优化。
Filebeat 是一个 lighter-weight 本地代理,可以进行一些处理并将日志发送到 logstash 或 elasticsearch。一些本地处理(例如多行和忽略)非常强大。
Logstash 也可以用作托运器,但它通常用于将非结构化日志转换为结构化数据以插入到 elasticsearch 中。通过使用 built-in filters,处理选项基本上是无限的,您可以放入 ruby 来做真正自定义的东西。
我有几个 Apache 服务器日志,我想将其解析到 Kibana 中以进行可视化。现在,我尝试设置 Elasticsearch + Kibana + Filebeat 来获取这些服务器日志。但是,Filebeat 似乎占用了相当多的 CPU 用法。
这些日志是静态的,即我收集的旧日志。因此,我不需要 Filebeat 主动监控功能。在这种情况下,是否有任何其他替代方法可以让我仅将 Apache 服务器日志导入 Kibana 一次?
另外,作为旁注,filebeat 和 logstash 之间有什么区别?我读到 logstash 能够从日志中解析出更多信息,例如地理位置。但是,在尝试我的方法时,似乎 filebeat 的 apache 模块也可以这样做。
Filebeat 将监视给定目录中的日志以了解更改。您可以通过将已处理的文件移动到未监视的目录或设置 ignore_older
option 来控制它。另请查看以 close_
开头的选项,以获得该区域的更多优化。
Filebeat 是一个 lighter-weight 本地代理,可以进行一些处理并将日志发送到 logstash 或 elasticsearch。一些本地处理(例如多行和忽略)非常强大。
Logstash 也可以用作托运器,但它通常用于将非结构化日志转换为结构化数据以插入到 elasticsearch 中。通过使用 built-in filters,处理选项基本上是无限的,您可以放入 ruby 来做真正自定义的东西。