Filebeat与直接将日志从应用程序推送到Logstash

比尔·戈德堡:

我打算为我们的项目之一设计一个集中式日志记录系统,该系统具有用Java,Python和Scala编写的多个组件。我想收集来自不同部分(REST Server,Spark Jobs,Airflow server)的日志,以进行logstash并索引到Elastic search中。我可以看到PythonJava日志记录模块中都有直接的库,可以将日志直接从应用程序推入logstash。我可以看到可以在服务器上配置的filebeat,以将日志从文件推送到logstash。使用filebeat而不是直接将日志发送到logstash有什么好处?最佳做法是什么?

Furhan S .:

以下是这两种方法的利弊:

应用程序日志=> Logstash

优点:

  • 较少的组件来管理和直接管道

缺点:

  • Logstash拥塞或其中断可能会对您的应用程序产生不利影响
  • 更改日志目标可能需要您重新部署或重新启动应用程序

应用程序日志=> Filebeat => Logstash

优点:

  • Filebeat是一个轻量级实用程序,它使您可以将日志处理与应用程序逻辑分离
  • 更改日志目标非常容易,它本身就支持在多个logstash目标实例之间进行负载平衡
  • 可以使用其他字段来充实日志,或者您可以仅通过更改filebeat配置来执行日志的条件处理,例如,将客户A的日志发送到Logstash A
  • 日志在本地进行缓冲,即使logstash进程重新启动或在一定时间内变得不可用,日志也将可靠地传输到Logstash(前提是您的日志文件保留在磁盘上供filebeat使用并具有适当的配置)

缺点:

  • 在应用程序体系结构中要管理的另一个组件
  • 需要额外的系统资源(通常进行轻量级处理)

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

filebeat直接将日志发送到弹性搜索而不是logstash

通过filebeat将结构化日志数据直接推送到弹性搜索

Filebeat将日志发送到所有Logstash实例

将日志从Logstash-Forwarder推送到Logstash

Heroku-将子树推送到不同的应用程序

无法将应用程序推送到Bluemix

将Rails应用程序推送到Heroku时出错

网站设计,将信息推送到应用程序,或从网站检索应用程序

使用 logstash 将日志文件推送到弹性

推送到heroku时,Ruby on Rails应用程序不断崩溃,日志中没有信息

从 Web 应用程序推送到 git

使用filebeat,logstash和elasticsearch将json格式的日志发送到kibana?

使用SignalR将通知从Web应用程序推送到桌面Windows窗体应用程序的可行性

如何将更新推送到具有文件系统的已部署流星应用程序?

无法将 NodeJS + AngularJS 应用程序推送到 PAS - Pivotal Cloud Foundry (PCF)

Web应用程序如何将推送通知发送到iOS设备?

将Windows Azure Azure移动服务中的通知推送到html / js Web应用程序

在将节点应用程序推送到heroku节点./bin/www时遇到问题?

使用Go应用程序将生成的文件推送到github

尝试将Java应用程序推送到Cloud Foundry时出现404 Not Found错误消息

如何将推送通知发送到Web应用程序和浏览器?

将Rails应用程序推送到Heroku不会看到资产文件的差异

是否可以通过azure管道将zip文件推送到应用程序中心?

将所有文件夹/文件推送到应用程序文件吗?

将Rails应用程序推送到Heroku之前应遵循哪些步骤?

尝试使用CLI将Vapor应用程序推送到Heroku失败

推送到达时将cordova应用程序置于前台

使用生产服务器证书将推送通知发送到开发应用程序

是否可以将iOS推送通知发送到两个不同的应用程序?