做网站 推广,qq推广设置中心,logo设计网站排行榜,做kegg通路富集的网站对系统的日志监控#xff0c;通用做法是使用ELK#xff08;Elasticsearch、Logstash、Kibana#xff09;进行监控和搜索日志#xff0c;这里给出另一种方案#xff1a;通过Filebeat接收日志到Kafka#xff0c;监控平台接收Kafka#xff0c;并通过WebSocket实时展示。
这…对系统的日志监控通用做法是使用ELKElasticsearch、Logstash、Kibana进行监控和搜索日志这里给出另一种方案通过Filebeat接收日志到Kafka监控平台接收Kafka并通过WebSocket实时展示。
这种方案还可以增加Metricbeat监控机器指标。另外监控平台可以选择其他方式展示日志灵活性大。
这种方案适合对系统进行实时监控、以及对系统CPU、内存进行实时监控的场景。
结构图 流程图 数据收集
数据收集组件包括filebeat和metricbeat寻找一个合适的本地文件夹进行部署无需su权限。
其中filebeat用于日志收集和结构化数据收集metricbeat用于系统信息收集。
filebeat安装与配置
wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.16.2-linux-x86_64.tar.gztar zxf filebeat-7.16.2-linux-x86_64.tar.gzcd filebeat-7.16.2-linux-x86_64vi filebeat.yml
用实际日志文件名替换{FILE_PATH}如/data/logs/systemx/abcd.log
filebeat.inputs:- type: filestreamenabled: truepaths:- FILE_PATHoutput.kafka:enabled: truehosts: [kfk-01.example.com:9092,kfk-02.example.com:9092,kfk-03.example.com:9092]topic: system_x_journal
启动filebeat
nohup ./filebeat -c filebeat-[STRATEGY_ID]-jnl.yml -path.data$PWD/data_[STRATEGY_ID]_jnl/ filebeat-[STRATEGY_ID]-jnl.log 21 Ornohup ./filebeat -c filebeat-[STRATEGY_ID]-stt.yml -path.data$PWD/data-[STRATEGY_ID]-stt/ filebeat-[STRATEGY_ID]-stt.log 21 filebeat文档在这里Filebeat Reference [7.16] | Elastic
metricbeat安装与配置
安装
wget https://artifacts.elastic.co/downloads/beats/metricbeat/metricbeat-7.16.2-linux-x86_64.tar.gztar zxf metricbeat-7.16.2-linux-x86_64.tar.gzcd metricbeat-7.16.2-linux-x86_64vi metricbeat.yml
配置
metricbeat.config.modules:path: ${path.config}/modules.d/*.ymlreload.enabled: falsemetricbeat.modules:- module: systemmetricsets: [core]core.metrics: [percentages, ticks]processors: - add_host_metadata:netinfo.enabled: trueoutput.kafka:enabled: truehosts: [kfk-01.example.com:9092,kfk-02.example.com:9092,kfk-03.example.com:9092]topic: system_x_sysinfo
启动
nohup ./metricbeat -c metricbeat.yml metricbeat.log 21
对于多个系统部署在一台服务器上的情况往往会共用一份机器信息则将配置文件的topic改为system_x_ID_sysinfo。
注意
1.metricbeat默认不带IP需要在配置文件添加add_host_metadata
2.metricbeat默认不带CPU所有内核的负载需要扩展module: system
3.传递内容及数据格式在这里System fields | Metricbeat Reference [8.9] | Elastic
Kafka数据查看
作为中间调试步骤可以登录到测试服务器查看Kafka输出
cd /usr/local/kafka/bin/sh kafka-console-consumer.sh --bootstrap-server kfk-01.example.com:9092,kfk-02.example.com:9092,kfk-03.example.com:9092 --topic YOUR_TOPIC
PythonFastAPI示例
在一个典型的Python FastAPI项目中通过kafka consumer订阅对应策略的topic持续消费kafka存储的日志数据然后通过websocket服务将日志推给连接的ws客户端。
KafkaConsumer
使用python的kafka包。
注意安装kafka-python不要kafka
使用 pip list | grep kafka查看是否有安装如果已安装kafka先卸载
pip uninstall kafka
再安装
pip install kafka-python
FastAPI主程序示例
from web.monitors import loginfo, sysinfoimport asyncio# 已声明 app FastAPI()app.on_event(startup)async def startup():loop asyncio.get_running_loop()logging.info(loop)journal.set_config(config, loop)sysinfo.set_config(config)app.mount(/loginfo, loginfo.router_loginfo)app.mount(/sysinfo, sysinfo.router_sysinfo)logging.info(config journal and sysinfo) 附1metricbeat机器信息返回字段
system_name系统名称
app_cpu系统应用占用的CPU单位百分比
app_memory系统应用占用的内存单位字节
app_start_time系统应用启动时间
app_pid系统应用的进程ID
cpu_sys_usage机器整体CPU系统使用单位百分比
cpu_idle机器整体CPU闲置单位百分比
cpu_user_usage机器整体CPU用户使用单位百分比
cpu_cores机器CPU内核数
cpu_cores_usage列表机器所有CPU核的负载单位百分比
memory_usage机器整体内存占用单位百分比
memory_total机器内存总和单位字节
disk_usage机器磁盘占用率单位百分比
disk_total机器磁盘空间总和单位字节
host_name主机名
os主机操作系统
ip_addr主机IP 附2FastAPIWebsocket问题
基于解耦原则日志的kafka消费、websocket服务模块需要放在单独的文件中但是通过app.include_router添加的ws路径不起作用相关bugreport见这里。
目前的解决方案是
在ws router服务模块中也声明app
router_journal FastAPI()
然后在主app文件中附加此router模块
app.mount(router_journal)
