ELKStack实战十——ELK生产案例项目规划
1. 需求分析
1.1 日志类型
访问日志:Apache访问日志、Nginx访问日志、Tomcat等
错误日志:error log、java日志
系统日志:/var/log/*、syslog
运行日志:程序定义的
网络日志:防火墙、路由器、交换机的日志
1.2 日志收集方法
file - filter
直接收集或需要处理(java日志)
file - json
syslog、rsyslog
...
Continue reading >>访问日志:Apache访问日志、Nginx访问日志、Tomcat等
错误日志:error log、java日志
系统日志:/var/log/*、syslog
运行日志:程序定义的
网络日志:防火墙、路由器、交换机的日志
file - filter
直接收集或需要处理(java日志)
file - json
syslog、rsyslog
...
Continue reading >>生产中应用:解耦,松耦合
数据 --> logstash(可选,如flume) --> MQ(redis、rabbitmq、kafka、zeromq) --> logstash(可选,Python、Php) --> ES
消息队列扩展架构图
应用场景:生产中有缺少的日志或部分日志需要加入es
[root@linux-node2 conf.d]# cat tcp.conf input { tcp { type =&g...Continue reading >>
#通过type字段来做if判断,不同日志写入不同的索引 [root@linux-node1 ~]# cat /etc/logstash/conf.d/file.conf  ...Continue reading >>
[root@linux-node1 /opt/kibana/config]# egrep -v "#|^$" kibana.yml server.port: 5601 server.host: "0.0.0.0" elas...Continue reading >>