Docker 部署 elk + filebeat

kibana 开源的分析与可视化平台
logstash 日志收集工具 logstash-forwarder(原名lubmberjack)
elasticsearch 查询  + filebeat 日志收集


环境:

  • docker 版本 :18.09.1
  • 主机地址:192.168.1.81
  • filebeat:6.5.4

一、部署elk

1、修改系统内存内核参数

  1. # 临时修改
  2. sysctl -w vm.max_map_count=262144
  3. # 永久修改
  4. vim /etc/sysctl.conf
  5. vm.max_map_count=262144

2、下载elk镜像

  1. docker pull sebp/elk

3、运行elk服务

  1. docker run -p 5601:5601 -p 9200:9200 -p 5044:5044 -itd --name elk sebp/elk

4、修改logstash关闭ssl

  1. # 1、进入elk容器
  2. docker exec -it xxxxx /bin/bash
  3.  
  4. # 2、修改配置文件 改为如下
  5. vi /etc/logstash/conf.d/02-beats-input.conf
  6.  
  7. input {
  8. beats {
  9. port => 5044
  10. }
  11. }

5、重启elk

  1. docker restart elk

二、部署filebeat(本地安装)

  • filebeat压缩包
  • 下载地址:https://pan.baidu.com/s/1fx12E7N_O2a6CHIBmQV6Ig
  • 密码:osxk

1、安装filebeat

  1. rpm -ivh filebeat-6.5.4-x86_64.rpm

2、修改配置文件

  1. filebeat.prospectors:
  2. - type: log
  3. enabled: true
  4. paths:
  5. - /docker/service/zs/java/javalog/*.log
  6. tags: ["java"]
  7.  
  8. - type: log
  9. enabled: true
  10. paths:
  11. - /docker/service/zs/nginx/log/*.log
  12. tags: ["nginx"]
  13.  
  14. - type: log
  15. enabled: true
  16. paths:
  17. - /docker/service/zs/redis/log/*.log
  18. tags: ["redis"]
  19.  
  20. filebeat.config.modules:
  21. path: ${path.config}/modules.d/*.yml
  22. reload.enabled: false
  23.  
  24. setup.template.settings:
  25. index.number_of_shards: 3
  26.  
  27. setup.kibana:
  28. host: "192.168.1.81:5601"
  29.  
  30. output.logstash:
  31. hosts: ["192.168.1.81:5044"]
  1. filebeat.prospectors:
  2. # 指定收集的日志路径
  3. - type: log
  4. enabled: true
  5. paths:
  6. # 指定路径
  7. - /docker/service/zs/java/javalog/*.log
  8. tags: ["java"]
  9.  
  10. # 指定收集的日志路径
  11. - type: log
  12. enabled: true
  13. paths:
  14. # 指定路径
  15. - /docker/service/zs/nginx/log/*.log
  16. # 自定义名称
  17. tags: ["nginx"]
  18.  
  19. # 指定收集的日志路径
  20. - type: log
  21. enabled: true
  22. paths:
  23. # 指定路径
  24. - /docker/service/zs/redis/log/*.log
  25. # 自定义名称
  26. tags: ["redis"]
  27.  
  28. filebeat.config.modules:
  29. path: ${path.config}/modules.d/*.yml
  30. reload.enabled: false
  31.  
  32. setup.template.settings:
  33. index.number_of_shards: 3
  34.  
  35. # 指定kibana主机地址
  36. setup.kibana:
  37. host: "192.168.1.81:5601"
  38.  
  39. # 指定logstash地址
  40. output.logstash:
  41. hosts: ["192.168.1.81:5044"]

文件注释

三、kibana管理

1、Management --> index patterns -- > create index pattern

2、下一步

3、查看创建索引

Docker 部署 elk + filebeat的更多相关文章

  1. Docker 部署ELK之Sentinl日志报警

    前篇文章简单介绍了Docker 部署ELK,以及使用filebeat收集java日志.这篇我们介绍下日志报警配置,这里我们使用Sentinl插件. 1.修改kibana参数 进入elk容器,修改对应参 ...

  2. 被一位读者赶超,手摸手 Docker 部署 ELK Stack

    被一位读者赶超,容器化部署 ELK Stack 你好,我是悟空. 被奇幻"催更" 最近有个读者,他叫"老王",外号"茴香豆泡酒",找我崔更 ...

  3. 利用docker部署elk交换机日志分析

    今天我们来聊一下利用docker部署elk日志分析系统,这里解析一下elk是啥东西.elk分别是Elasticsearch,Logstash和Kibana的首字母缩写. Elasticsearch是一 ...

  4. Docker 部署ELK

    1.安装docker前安装pip sudo yum -y install epel-release sudo yum install python-pip 2.安装docker #安装依赖包 yum ...

  5. Linux实战(20):非docker部署ELK

    部署环境: Elasticsearch:7.5.2 Kibana:7.5.2 Logstash:7.5.2 filebeat:7.5.2 redis:最新版 部署方式:rpm+二进制包 使用架构 软件 ...

  6. Docker部署ELK之部署filebeat7.6.0(3)

    1. filebeat介绍 Filebeat是用于转发和集中日志数据的轻量级传送工具.Filebeat监视您指定的日志文件或位置,收集日志事件,并将它们转发到Elasticsearch或 Logsta ...

  7. Docker部署ELK 日志归集

    ELK ELK是Elasticsearch.Logstash.Kibana的缩写,使用ELK的原因是因为公司使用Spring cloud部署了多个微服务,不同的微服务有不同的日志文件,当生产上出现问题 ...

  8. 生产环境Docker部署ELK跨区访问kafka不通问题的解决

    由于分布式系统的日志集中采集的需求非常强烈,我们组通过调研和实践搭建了一套基于Docker的日志收集系统Amethyst. 我们首先在测试环境搭建了一套基于Docker swarm集群的ELK分布式环 ...

  9. docker部署ELK日志处理

    docker环境下部署的ELK系统,日志处理,保留最近五个小时的日志 dockerlog.sh #!/bin/bash logs=`find /var/lib/docker/containers/ - ...

随机推荐

  1. 如何免费下载付费音乐歌曲,6个网站+8个APP

    现在听音乐的软件,QQ音乐,酷狗,网易云等,很多歌曲可以在线听. 但是下载某些歌曲或者在线听高品质无损的都需要付费. 这一期,给大家推荐的是免费下载付费歌曲工具,包括网站跟APP. 网站篇 1.VIP ...

  2. [原]Jenkins(一)---我理解的jenkins是这样的(附全套PDF下载)

    /** * lihaibo * 文章内容都是根据自己工作情况实践得出. *版权声明:本博客欢迎转发,但请保留原作者信息! http://www.cnblogs.com/horizonli/p/5330 ...

  3. JavaScript原型、闭包、继承和原型链等等总结

    参考:http://www.cnblogs.com/wangfupeng1988/tag/%E5%8E%9F%E5%9E%8B%E9%93%BE/

  4. 最小生成树 prime+heap

    改一个错误真不容易,刚开始没有加上used数组,没有判断每个顶点是否已经加入到数组当中,结果同一个顶点被pop不止一次. struct edge{int to,cost;}; typedef pair ...

  5. GetLastError获取到错误代码的含义

    在写win32的时候我们会用到GetLastError()函数来获取程序错误信息,那我们如何从返回的数字得到错误信息. 这里推荐一个博客,总结了所以返回数字的错误信息: http://blog.csd ...

  6. 前端 jquery获取当前页面的URL信息

    以前在做网站的时候,经常会遇到当前页的分类高亮显示,以便让用户了解当前处于哪个页面.之前一直是在每个不同页面写方法.工程量大,也不便于修改.一直在想有什么简便的方法实现.后来在网上查到可以用获取当前U ...

  7. [No0000196]一文读懂Java 11的ZGC为何如此高效

    导读:GC是大部分现代语言内置的特性,Java 11 新加入的ZGC号称可以达到10ms 以下的 GC 停顿,本文作者对这一新功能进行了深入解析.同时还对还对这一新功能带来的其他可能性做了展望.ZGC ...

  8. 线程安全 Thread Safety Problem scala concurrency 并发

    小结: 1.基于java并发模型 Scala concurrency is built on top of the Java concurrency model. 2. 将每个请求放入一个新的线程 T ...

  9. 什么是Rollback Segment(已truncate和delete 命令为例)?

    Rollback Segments是在你数据库中的一些存储空间,它用来临时的保存当数据库数据发生改变时的先前值,Rollback Segment主要有两个目的: 1. 如果因为某种原因或者其他用用户想 ...

  10. 初试kotlin:用Kotlin开发桌面/CommandLine 工具

    既然kotlin是google和jetbrain联合搞的,开发环境不用说了肯定是Intellij Idea了. 先创建一个kotlin项目. 先来一个HelloWorld package com.xi ...