Logstash 安装与配置
一、Logstash 描述
简单而又强大的数据抽取与处理工具,相比于flums一整本书的描述强大而又好用。
还记得我13年用python写了一个数据抽取、校验工具,设计思路也同样是拆解处理过程模板,然后通过插件式的输入、输出、转化校验逻辑实现,设计思路如初一折。
当然当初设计是基于propertise配置实现,logstash则是完备的dsl语言,实现了函数式语言的范式。
当初也想实现函数式,始终不得其法,现在看来豁然开朗。
二、安装
centos环境推荐用yum安装的方式,至于其他方式,请关注官方文档(https://www.elastic.co/guide/en/logstash/current/installing-logstash.html)
1、Download and install the public signing key:
rpm -- import https: //artifacts.elastic.co/GPG-KEY-elasticsearch |
2、添加repo
添加如下内容,到/etc/yum.repos.d/
目录,以.repo结尾,推荐为:logstash.repo
[logstash- 5 .x] name=Elastic repository for 5 .x packages baseurl=https: //artifacts.elastic.co/packages/5.x/yum gpgcheck= 1 gpgkey=https: //artifacts.elastic.co/GPG-KEY-elasticsearch enabled= 1 autorefresh= 1 type=rpm-md |
3、最后执行命令安装;
sudo yum install logstash |
三、配置
# 1 . 复制配置文件到logstash home cp /etc/logstash /usr/share/logstash/config # 2 . 配置路径 vim /usr/share/logstash/config/logstash.yml 修改前: path.config: /etc/logstash/conf.d 修改后: #path.config: /etc/logstash/conf.d path.config: /usr/share/logstash/config/conf.d |
四、我找到的文档资料
logstash 5.0 官方文档:https://www.elastic.co/guide/en/logstash/current/index.html
最新版资料还是看官方靠谱;
大陆翻译的《ELK Stack中文指南》:http://kibana.logstash.es/content/
《Logstash最佳实践》:http://udn.yyuap.com/doc/logstash-best-practice-cn/index.html
Logstash 安装与配置的更多相关文章
- elasticsearch安装与使用(6)-- Logstash安装与配置
由于elasticsearch的search guard 不支持 elasticsearch的jdbc,所以如果安装了search guard认证插件之后,基本上jdbc就废了,所以我们需要用到log ...
- 第三篇:Logstash 安装配置
Logstash 简介: Logstash 是一个实时数据收集引擎,可收集各类型数据并对其进行分析,过滤和归纳.按照自己条件分析过滤出符合数据导入到可视化界面.Logstash 建议使用java1.8 ...
- Logstash 安装配置使用
一.Windows下安装运行 官网下载,下载与elasticSearch同一个版本,zip格式.Logstash占用内存较大,我在使用的时候cpu一般都是冲到90% 1.CMD直接运行 创建一个基本的 ...
- logstash 安装 配置
1.Logstash 安装:在产生日志的服务器上安装 Logstash1.安装java环境 # yum install java-1.8.0-openjdk.x86_642.安装logstash(使用 ...
- ELK安装与配置
ELK介绍 日志主要包括系统日志.应用程序日志和安全日志.系统运维和开发人员可以通过日志了解服务器软硬件信息.检查配置过程中的错误及错误发生的原因.经常分析日志可以了解服务器的负荷,性能安全性,从而及 ...
- ElasticSearch Kibana 和Logstash 安装x-pack记录
前言 最近用到了ELK的集群,想想还是用使用官方的x-pack的monitor功能对其进行监控,这里先上图看看: 环境如下: 操作系统: window 2012 R2 ELK : elasticsea ...
- ELK 架构之 Logstash 和 Filebeat 配置使用(采集过滤)
相关文章: ELK 架构之 Elasticsearch 和 Kibana 安装配置 ELK 架构之 Logstash 和 Filebeat 安装配置 ELK 使用步骤:Spring Boot 日志输出 ...
- logstash安装及基础入门
Logstash是一款开源的数据收集引擎,具备实时管道处理能力.简单来说,logstash作为数据源与数据存储分析工具之间的桥梁,结合 ElasticSearch以及Kibana,能够极大方便数据的处 ...
- ELK+SpringBoot+Logback离线安装及配置
ELK+SpringBoot+Logback 离线安装及配置 版本 v1.0 编写时间 2018/6/11 编写人 xxx 目录 一. ELK介绍2 二. 安装环境2 三. Elasticse ...
随机推荐
- 输入m乘法表
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...
- html5 定位 获得当前位置的经纬度
if (navigator.geolocation) { navigator.geolocation.getCurrentPosition(showPosition, showError, { // ...
- 转 Selenium+Python+Eclipse网页自动化集成环境配置(附简单的测试程序)
1 JDK.Python环境变量配置 下载JDK http://www.oracle.com/technetwork/java/javase/downloads/index.html,直接双击安装, ...
- CS0016: 未能写入输出文件“c:\Windows\Microsoft.NET\Framework\v2.0.50727\Temporary ASP.NET Files 解决方案
1 设置c:windows\temp 目录访问权限 temp--> 属性-->安全-- > 添加network service -->并赋予其权限为 读 和 写--> 确 ...
- springMVC和mybatis整合,jsp对时间进行格式化
发现jsp显示的时间,是java Date类型的默认格式,一串鸡肠.... 可在jsp对输出进行格式化: 1.加入taglib <%@ taglib prefix="fmt" ...
- Spark Streaming消费Kafka Direct方式数据零丢失实现
使用场景 Spark Streaming实时消费kafka数据的时候,程序停止或者Kafka节点挂掉会导致数据丢失,Spark Streaming也没有设置CheckPoint(据说比较鸡肋,虽然可以 ...
- GridView 使用方法总结
http://www.cnblogs.com/sufei/archive/2010/03/27/1698590.html 地址
- Linux 之HTTP服务,APACHE
1.基础知识 HTTP:超文本传输协议,超链接URI:Uniform Resource Identifier,全局范围内唯一命名符MIME:Multipurpose Internet Mail Ext ...
- 关于 Integer 的一个坑
其实 JDK 中有很多小坑, 我们稍微不注意, 就掉进去了, 然后调了半天 bug, 也不知道为何. 很闹心! 这里说一下, 在Integer中的一个小坑. 看一个小例子: @Test public ...
- {Reshipt}{文白}{资治通鉴}
this article came from 360doc ====================================================================== ...