ELK-logstash基本用法】的更多相关文章

官网地址 本文内容 语法 测试数据 可配置选项 参考资料 date 插件是日期插件,这个插件,常用而重要. 如果不用 date 插件,那么 Logstash 将处理时间作为时间戳.时间戳字段是 Logstash 自己添加的内置字段 @timestamp,在ES中关于时间的相关查询,必须使用该字段,你当然也可以修改该字段的值. 语法 该插件必须是用 date 包裹,如下所示: date { } 可用的配置选项如下表所示: 设置 输入类型 是否为必填 默认值 add_field hash No {}…
写在前面:在做ELK logstash 处理MySQL慢查询日志的时候出现的问题: 1.测试数据库没有慢日志,所以没有日志信息,导致 IP:9200/_plugin/head/界面异常(忽然出现日志数据,删除索引后就消失了) 2.处理日志脚本问题 3.目前单节点   配置脚本文件/usr/local/logstash-2.3.0/config/slowlog.conf[详细脚本文件见最后]   output {   elasticsearch {     hosts => "115.28.…
最近开始测试部署ELK, 在部署logstash的时候出现一个故障: logstash在第一次安装完成以后启动正常, 但是之后启动时间越来越长, 5分钟以上甚至10多分钟.以至于怀疑程序错误, 在重装以软件和系统以后问题还是没有解决. 搜索到github上的一个issue, 解释如下: 系统的“熵”低了. 查了一下, 这个熵好像是用来生成随机数的. 如果出现logstash启动慢,使用如下命令查询,. cat /proc/sys/kernel/random/entropy_avail 如果返回值…
官网地址:https://www.elastic.co/guide/en/elasticsearch/reference/current/docker.html#docker-cli-run-prod-mode 1.拉取镜像 docker pull elasticsearch: docker pull kibana: 2.启动容器 docker run  -d --name es1  -p 9200:9200 -p 9300:9300 --restart=always -e "discovery…
这个方法有一个问题就是我这边不能给我们公司的邮箱发邮件.还有就是我们有两个邮箱一个是腾讯企业邮箱,还有一个就是我们的集团邮箱 使用下面的这个方法是不能给我们的集团邮箱发邮件的.第二个问题就是这个方法给我们的腾讯企业邮箱发邮件的话,腾讯的企业邮箱会有一定的规则 当你一定时间发送太多邮件的话,这里就会拒收,服务器拒绝了.所以得用另外一种方法 input {    beats {      type => beats      port => 5089    }}filter {        mu…
一. Elastic Stack Elastic Stack是ELK的官方称呼,网址:https://www.elastic.co/cn/products ,其作用是“构建在开源基础之上, Elastic Stack 让您能够安全可靠地获取任何来源.任何格式的数据,并且能够实时地对数据进行搜索.分析和可视化.” 它主要包括三个元件: Beats + Logstash:采集任何格式,任何来源的数据. Beats: Beats 是轻量型采集器的平台,从边缘机器向 Logstash 和 Elastic…
重点参考: http://blog.csdn.net/qq1032355091/article/details/52953837 不得不说这是一个伟大的项目实战,是正式踏入logstash门槛的捷径 Logstash的使用 logstash支持把配置写入文件 xxx.conf,然后通过读取配置文件来采集数据 ./bin/logstash –f xxx.conf logstash最终会把数据封装成json类型,默认会添加@timestamp时间字段.host主机字段.type字段.原消息数据会整个…
logstash语法 http://www.ttlsa.com/elk/elk-logstash-configuration-syntax/ https://www.elastic.co/guide/en/logstash/current/event-dependent-configuration.html logstash grok原理 参考: https://www.kancloud.cn/hanxt/elk/155901 https://www.elastic.co/guide/en/lo…
filebeat安装dashboard 参考: https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-getting-started.html 发现安装时候报错 ./filebeat setup --dashboards ./filebeat -e --modules nginx ./filebeat -e --modules system,nginx,mysql 解决: vim filebeat.yaml 仅仅写入下面内…
官网地址 本文内容 语法 测试数据 可选配置项 mutate 插件可以在字段上执行变换,包括重命名.删除.替换和修改.这个插件相当常用. 比如: 你已经根据 Grok 表达式将 Tomcat 日志的内容放到各个字段中,想把状态码.字节大小或是响应时间,转换成整型: 你已经根据正则表达式将日志内容放到各个字段中,但是字段的值,大小写都有,这对于 Elasticsearch 的全文检索来说,显然用处不大,那么可以用该插件,将字段内容全部转换成小写. 语法 该插件必须是用 mutate 包裹,如下所示…