B站日志系统 日志系统

B站日志系统

B站的日志系统(Billions)从2017年5月份开始建设,基于elastic stack,面向全站提供统一的日志采集、检索、监控服务。目前集群规模20台机器,接入业务200+,单日日志量10T+。...
阅读全文
ELK logstash 处理mongodb日志(27th) ELK

ELK logstash 处理mongodb日志(27th)

上一篇是处理MySQL的慢查询日志的,其实,ELK内容就这么多,很有规律的说,一通百通,通一反万。下面说说对mongodb日志处理。 不同mongodb版本的日志格式不同,这个需要看mongodb官方...
阅读全文
ELK logstash 部署指南与版本变化(20th) ELK

ELK logstash 部署指南与版本变化(20th)

logstash是ELK重要组成部分,日志进一步的处理差不多都需要经过logstash来完成的,除非自己开发beats将数据处理好直接写入到elasticsearch中。 APT源 YUM源 注意: ...
阅读全文
ELK Packetbeat 部署指南(15th) ELK

ELK Packetbeat 部署指南(15th)

Packetbeat 是一个实时网络数据包分析工具,与elasticsearch一体来提供应用程序的监控和分析系统。 Packetbeat通过嗅探应用服务器之间的网络通讯,来解码应用层协议类型如HTT...
阅读全文
ELK topbeat 部署指南(14th) ELK

ELK topbeat 部署指南(14th)

topbeat定期收集系统信息如每个进程信息、负载、内存、磁盘等等,然后将数据发送到elasticsearch进行索引。 topbeat收集的指标有: 系统统计信息 系统负载: 最后1分钟、最后5...
阅读全文
ELK beats通用配置说明(12th) ELK

ELK beats通用配置说明(12th)

Beats配置文件是以YAML语法,该文件包含用于所有的beats的通用配置选项,以及其特点的选项。下面说说通用的配置,特定的配置要看各自beat文档。 通用的配置如下几部分: Shipper Out...
阅读全文
ELK elasticsearch 插件管理(8th) ELK

ELK elasticsearch 插件管理(8th)

插件能额外扩展elasticsearch功能,提供各类功能等等。有三种类型的插件: java插件 只包含JAR文件,必须在集群中每个节点上安装而且需要重启才能使插件生效。 网站插件 这类插件包含静态w...
阅读全文
ELK elasticsearch 1.7.2 升级到 2.0.0(7th) ELK

ELK elasticsearch 1.7.2 升级到 2.0.0(7th)

前一文费了老大劲闲扯了半天快照与恢复,就是为了本文升级做准备的。在升级前需考虑下面三件事: 查看阅读新版本的更改内容 在测试环境下测试升级 升级之前备份数据,升级后是不能再回滚到旧版本的 elasti...
阅读全文
ELK elasticsearch 快照与恢复模块(6th) ELK

ELK elasticsearch 快照与恢复模块(6th)

elasticsearch 快照和恢复模块可以创建单个索引或者整个集群的快照到远程的仓库。在最初的版本只支持共享文件系统存储,但是现在,各种后端可用通过官方支持的存储插件。 存储介质 在任何快照或者恢...
阅读全文
ELK elasticsearch yum 安装(4th) ELK

ELK elasticsearch yum 安装(4th)

比起tar包安装,以yum方式安装对于启动和关闭elasticsearch服务更为方便。而对于CentOS与Ubuntu而言,apt 安装比yum 更为方便。楼主工作前期中是以CentOS系统为主,后...
阅读全文