泰州专业制作网站,望城经开区建设开发公司门户网站,齐家网装修怎么收费,wordpress显示注册ip经反馈#xff0c;新部署的服务器上filebeat占用的cpu过高#xff0c;且内存只增不减。 而据我了解filebeat非常轻量级#xff0c;正常情况下占用的资源几乎都能忽略不计#xff0c;所以怀疑是filebeat本身出了问题。 第一时间查看filebeat日志#xff08;默认路径/var/lo…经反馈新部署的服务器上filebeat占用的cpu过高且内存只增不减。 而据我了解filebeat非常轻量级正常情况下占用的资源几乎都能忽略不计所以怀疑是filebeat本身出了问题。 第一时间查看filebeat日志默认路径/var/log/filebeat/filebeat发现有大量内容输出 2019-03-20T08:55:02.1980800 INFO kafka/log.go:53 producer/broker/544 starting up
2019-03-20T08:55:02.1980800 INFO kafka/log.go:53 producer/broker/544 state change to [open] on wp-news-filebeat/4
2019-03-20T08:55:02.1980800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/4 selected broker 544
2019-03-20T08:55:02.1980800 INFO kafka/log.go:53 producer/broker/478 state change to [closing] because EOF
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 Closed connection to broker bitar1d12:9092
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/5 state change to [retrying-3]
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/4 state change to [flushing-3]
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/5 abandoning broker 478
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/2 state change to [retrying-2]
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/2 abandoning broker 541
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/leader/wp-news-filebeat/3 state change to [retrying-2]
2019-03-20T08:55:02.1990800 INFO kafka/log.go:53 producer/broker/478 shut down 看日志描述似乎是一直地在不停的创建和关闭kafka连接。 起初怀疑是kafka相关dns没有配置/etc/resolve.conf导致连不上kafka的broker但检查并和正常的机器对比后dns配置是一样的也就排除了这种情况。 接下来怀疑可能是filebeat版本的问题因为elastic家族的产品就是那个尿性发版速度很频繁而且不同大版本有很多不兼容。 对比filebeat版本发现它的版本6.5.3比正常的服务器5.6.12高一个大版本所以怀疑不同版本对kafka的处理机制不一样导致的。 为了验证这个问题在查阅filebeat官网后发现6.5.x默认kafka的版本是1.0.0而5.6.x默认的是0.8.2.0而询问运维得知kafka版本是0.10.2.2所以问题基本确认。 根据官方文档描述在配置中指定了kafka版本 output.kafka: version: 0.10.2.2 ... 问题得以解决。 参考 https://www.elastic.co/guide/en/beats/filebeat/6.5/kafka-output.html#_literal_version_literal https://www.elastic.co/guide/en/beats/filebeat/5.6/kafka-output.html#_version转载于:https://www.cnblogs.com/tonyauto/p/10679069.html