ELK 处理 Percona 审计日志(填坑) ELK

ELK 处理 Percona 审计日志(填坑)

前提 1、有强烈的审计需求。 2、能允许10%-15%左右的性能损失。 3、有强烈的对数据库操作实时查看需求(一般都是为了领导要求)。 Logstash 比较坑的配置 上面的配置看上去是没有问题的,如...
阅读全文
ELK logstash 处理mongodb日志(27th) ELK

ELK logstash 处理mongodb日志(27th)

上一篇是处理MySQL的慢查询日志的,其实,ELK内容就这么多,很有规律的说,一通百通,通一反万。下面说说对mongodb日志处理。 不同mongodb版本的日志格式不同,这个需要看mongodb官方...
阅读全文
ELK logstash 处理多行事件(25th) ELK

ELK logstash 处理多行事件(25th)

有些日志是分多行输出的,为了能正确的处理这些多行的事件,logstash必须哪些行是单一事件的一部分。多行事件处理是比较复杂的,需依赖正确的事件顺序。最佳方法是尽早的在管道中处理以保证日志有序。这就是...
阅读全文
ELK logstash 配置语法(24th) ELK

ELK logstash 配置语法(24th)

数据类型 logstash支持的数据类型有: array 数组可以是单个或者多个字符串值。 path => path => "/data/mysql/mysql.log" 如果指定了多次,...
阅读全文
ELK logstash 结构(22nd) ELK

ELK logstash 结构(22nd)

在命令行中指定-e参数,从标准输入到标准输出,并格式化结果。 logstash会给事件添加一些额外的信息,如@timestamp,标注事件发生的时间。host标注事件发生的主机。此外,还可能有下面几个...
阅读全文
ELK logstash 部署指南与版本变化(20th) ELK

ELK logstash 部署指南与版本变化(20th)

logstash是ELK重要组成部分,日志进一步的处理差不多都需要经过logstash来完成的,除非自己开发beats将数据处理好直接写入到elasticsearch中。 APT源 YUM源 注意: ...
阅读全文
ELK kibana查询与过滤(17th) ELK

ELK kibana查询与过滤(17th)

在kibana中,可通过搜索查询过滤事务或者在visualization界面点击元素过滤。 创建查询 在Discover界面的搜索栏输入要查询的字段。查询语法是基于Lucene的查询语法。允许布尔运算...
阅读全文
ELK Packetbeat 部署指南(15th) ELK

ELK Packetbeat 部署指南(15th)

Packetbeat 是一个实时网络数据包分析工具,与elasticsearch一体来提供应用程序的监控和分析系统。 Packetbeat通过嗅探应用服务器之间的网络通讯,来解码应用层协议类型如HTT...
阅读全文
ELK topbeat 部署指南(14th) ELK

ELK topbeat 部署指南(14th)

topbeat定期收集系统信息如每个进程信息、负载、内存、磁盘等等,然后将数据发送到elasticsearch进行索引。 topbeat收集的指标有: 系统统计信息 系统负载: 最后1分钟、最后5...
阅读全文
ELK beats yum和命令行工具(13th) ELK

ELK beats yum和命令行工具(13th)

这篇是配置yum源和beat命令行。 为yum添加beats库 下载并安装公共签名证书: 添加repo文件: 安装Filebeat、Packetbeat、Topbeat: 这三个beat下文每个介绍过...
阅读全文
ELK beats通用配置说明(12th) ELK

ELK beats通用配置说明(12th)

Beats配置文件是以YAML语法,该文件包含用于所有的beats的通用配置选项,以及其特点的选项。下面说说通用的配置,特定的配置要看各自beat文档。 通用的配置如下几部分: Shipper Out...
阅读全文