【总结】filebeat进程写满磁盘的情况处理-创新互联

采用filebeat收集日志,日志文件频繁rotate,造成filebeat占用文件不释放,只要filebeat保持着被删除文件Open状态,操作系统就不释放磁盘空间,导致可用磁盘空间逐渐减小。如下监控图,杀掉filebeat进程之后,磁盘占用陡然下降。

创新互联建站是一家集网站建设,昌江黎族企业网站建设,昌江黎族品牌网站建设,网站定制,昌江黎族网站建设报价,网络营销,网络优化,昌江黎族网站推广为一体的创新建站企业,帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿,时刻以成就客户成长自我,坚持不断学习、思考、沉淀、净化自己,让我们为更多的企业打造出实用型网站。

【总结】filebeat进程写满磁盘的情况处理

使用lsof命令查看filebeat保持着的文件资源,可以发现许多被filebeat占用空间的失效文件(deleted)文件。

【总结】filebeat进程写满磁盘的情况处理

deleted状态的文件没有释放,始终占据磁盘空间

解决办法:

查看filebeat配置文件位置: /etc/filebeat/filebeat.yml

【总结】filebeat进程写满磁盘的情况处理

在配置文件中添加close_timeout: 5m,保证每隔5分钟file handler被关闭,不管是否遇到EOF符号。

需要注意的是,该close_timeout参数在Filebeat没有处理到文件末尾而文件被删除的情况下,会导致数据丢失。

filebeat.prospectors:
- type: log
  paths:
   - /opt/apps/ecm/service/storm/1.0.1/package/apache-storm-1.0.1/logs/workers-artifacts/xyz*/*/worker.log
  tail_files: false
  force_close_files: true
  close_timeout: 5m
processors:
- add_cloud_metadata: ~
output.logstash:
  hosts: ["10.10.10.10:6667"]
  loadbalance: true
  worker: 1

-----------------------------------------------------------------

close_rename,close_removed,close_eof,close_inactive等配置型对于(deteled)状态处理均无效(已测试验证)

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


当前题目:【总结】filebeat进程写满磁盘的情况处理-创新互联
链接分享:http://scyanting.com/article/dchooo.html