ELK logstash 部署指南与版本变化(20th)

默北 ELKELK logstash 部署指南与版本变化(20th)已关闭评论21,6679字数 1590阅读5分18秒阅读模式

logstash是ELK重要组成部分,日志进一步的处理差不多都需要经过logstash来完成的,除非自己开发beats将数据处理好直接写入到elasticsearch中。

Elasticsearch文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

APT源

# wget -qO - https://packages.elastic.co/GPG-KEY-elasticsearch | sudo apt-key add -
# echo "deb http://packages.elastic.co/logstash/2.1/debian stable main" | sudo tee -a /etc/apt/sources.list
# sudo apt-get update && sudo apt-get install logstash

YUM源

# rpm --import https://packages.elastic.co/GPG-KEY-elasticsearch
# vim /etc/yum.repos.d/logstash.repo
[logstash-2.1]
name=Logstash repository for 2.1.x packages
baseurl=http://packages.elastic.co/logstash/2.1/centos
gpgcheck=1
gpgkey=http://packages.elastic.co/GPG-KEY-elasticsearch
enabled=1
# yum install logstash

注意: 在安装logstash之前必须先要安装java。java的安装请参考之前的文章。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

新版本改变

logstash2.0版本的一些改变与以前的版本不兼容。《ELK部署指南》一文中是使用logstash1.5版本的。现在我都将使用logstash2.1版本。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

logstash2.0版本开始,logstash的默认输出是elasticsearch HTTP。要使用节点或者传输协议,下载安装 logstash-output-elasticsearch_java插件。logstash的elasticsearch HTTP输出现在支持嗅探。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

配置选的改变文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

elasticsearch输出插件的配置改变如下:文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

  • host配置项改变成hosts,允许指定多个主机和相关端口,如es1.ttlsa.com:9200。
  • 新的选项 bind_host, bind_port, cluster, embedded, embedded_http_port, port,sniffing_delay。
  •  max_inflight_requests 配置项已移除。
  • 由于hosts选项允许指定主机端口,因此port选项移除了。
  •  node_name 和  protocol 选项已经移到 elasticsearch_java 插件。

以下配置选项已从该版本中删除:文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

  • input 插件配置设置: debug, format, charset, message_format
  • output 插件配置设置: type, tags, exclude_tags.
  • filter 插件配置设置:type, tags, exclude_tags.

如果logstash配置文件有这些配置项,将是无效的并且logstash无法启动。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

kafka输出配置改变:文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

logstash2.0包含了新版本的kafka输出插件。具体参考文档。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

指标过滤器改变:文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

以前版本的指标过滤器插件使用有点的字段名称。从2.0版本开始,elasticsearch不允许字段名有点号。这样的改变是为了该插件使用子字段名代替点号。注意,这些改变使版本3.0.0指标过滤器插件不兼容以前版本。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

filter_workers默认改变:文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

从logstash2.0版本开始,filter_workers值不是CPU核数的一般,而是1了。该变化增强了并行过滤器执行资源密集型的过滤操作。当然还是可以通过-w来人工指定该值。文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/ 文章源自运维生存时间-https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/

weinxin
我的微信
微信公众号
扫一扫关注运维生存时间公众号,获取最新技术文章~
默北
  • 本文由 发表于 25/12/2015 01:54:56
  • 转载请务必保留本文链接:https://www.ttlsa.com/elk/elk-install-guide-and-version-changes/