ELK用于分布式收集,然后elasticsearch用于分析数据,在Kibana中可以查看数据、报表。

目前公司日志数据量暂时不使用elasticsearch集群,只是用的elasticsearch单机模式。

机器环境

以下软件都是基于5.6

elasticsearch+Kibana:172.16.88.56

logstash:172.16.88.99

在每台机器上执行如下操作:

  1. rpm --import https://artifacts.elastic.co/GPG-KEY-elasticsearch

vim /etc/yum.repos.d/logstash.repo

  1. [logstash-5.x]
  2. name=Elastic repository for 5.x packages
  3. baseurl=https://artifacts.elastic.co/packages/5.x/yum
  4. gpgcheck=1
  5. gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
  6. enabled=1
  7. autorefresh=1
  8. type=rpm-md

172.16.88.56安装elasticsearch Kibana

  1. yum install -y elasticsearch kibana

配置 elasticsearch kibana 对应的配置文件

  1. elasticsearch:/etc/elasticsearch/elasticsearch.yml
  2. kibana:/etc/kibana/kibana.yml

其中:

elasticsearch:

  1. network.host: 172.16.88.56 #服务器IP
  2. http.port: 9200 #对应的端口
  3. path.data: /home/elasticsearch

说明

network.host 服务器IP。

http.port 对应的端口。

path.data 数据保存的位置。

如果改这个data需要把/var/lib/elasticsearch/* 复制到/home/elasticsearch 目录下

同时注意/home/elasticsearch的权限 elasticsearch:elasticsearch 否则会报错

kibana:

  1. server.port: 5601
  2. server.host: "172.16.88.56"
  3. elasticsearch.url: "http://172.16.88.56:9200"

说明

指定服务器地址与kibana可访问的接口以及搜索引擎的地址与接口

启动 elasticsearch kibana

  1. service elasticsearch start
  2. chkconfig elasticsearch on
  3. service kibana on
  4. chkconfig kibana on

172.16.88.99安装 logstash

  1. yum install -y logstash

配置 logstash 对应的配置文件

  1. logstash:/etc/logstash/logstash.yml

172.16.88.99安装logstash

logstash:

  1. pipeline.workers: 4
  2. pipeline.output.workers: 2
  3. pipeline.batch.size: 1024

说明

修改的logstash工作进程数与输出的进程数,以及批处理的数量,依照服务器性能以及filebeat端是否报错进行相应的报错,

如果太小 filebeat总是报超时。

其他的配置比如 连接elasticsearch在后边进行说明。

调试模式下执行:

  1. /usr/share/logstash/bin/logstash --config.reload.automatic -f /etc/logstash/conf.d #不用停止服务,自动加载配置文件

生产环境:

  1. service logstash start
  2. chkconfig logstash on

CentOS7下安装ELK三件套的更多相关文章

  1. CentOS7下安装ELK(nginx 、elasticsearch-5.1.1、logstash-5.1.1、kibana-5.1.1)

    nginx: #直接yum安装: [root@elk-node1 ~]# yum install nginx -y 官方文档:http://nginx.org/en/docs/http/ngx_htt ...

  2. CentOS7 下 安装 supervisor以及使用

    CentOS7 下 安装 supervisor 以及使用 手动安装 [注] linux环境必须安装 python 1.获取supervisor包:[https://pypi.python.org/py ...

  3. Linux CentOs7 下安装 redis

    Linux CentOs7 下安装 redis 请将以下命令放入linux命令行中运行 如果安装过程前没有安装GCC请先安装  命令如下 $ yum install gcc-c++ $ wget ht ...

  4. Centos7下安装配置Redsocks

    Redsocks是一个开源的网络程序,代码依赖开源的libevent网络库.Redsocks允许你将所有TCP连接重定向到SOCKS或HTTPS代理,比如Shadowsocks(Centos7下安装配 ...

  5. CentOS7下安装SVN服务端

    CentOS7下安装SVN服务 1. yum命令即可方便的完成安装# sudo yum install subversion 测试安装是否成功:# svnserve --version 更改svn的默 ...

  6. centOS7下安装GUI图形界面

    1.如何在centOS7下安装GUI图形界面 当你安装centOS7服务器版本的时候,系统默认是不会安装GUI的图形界面程序,这个需要手动安装CentOS7 Gnome GUI包. 2.在系统下使用命 ...

  7. CentOS7下安装MySQL并配置远程连接

    一.CentOS7下安装MySQL数据库 CentOS7默认的安装包里面已经没有 MySQL-Server安装包了,远程镜像中也没有了. 默认的是MariaDB (MySQL的一个分支,开发这个分支的 ...

  8. Docker学习笔记3:CentOS7下安装Docker-Compose

    Docker-Compose是一个部署多个容器的简单但是非常必要的工具. 安装Docker-Compose之前,请先安装 python-pip,请参考我的另一篇博文CentOS7下安装python-p ...

  9. docker(一) Centos7下安装docker

    docker(一) Centos7下安装dockerdocker(二) windows10下安装dockerdocker(三) 镜像和容器常用命令 docker(四) 使用Dockerfile构建镜像 ...

随机推荐

  1. hdoj-1214-圆桌会议【逆序数】

    圆桌会议 Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others) Total Submissi ...

  2. Codeforces Round #271 (Div. 2) D.Flowers DP

    D. Flowers   We saw the little game Marmot made for Mole's lunch. Now it's Marmot's dinner time and, ...

  3. 【OI】同余方程

    一.同余方程的判定 我们知道同余方程是形如 ax ≡ b (mod n)   的东西,用文字表达就是: ax和b除以n的余数相同 那么,经过如下推理:(用=代替恒等于) ax=b (mod n) ax ...

  4. Java之正則表達式【使用语法】

    认为好就顶一个!! ! ! 3.正則表達式 用一些特殊的有意义的字符组成的字符串(死记) 原子:正則表達式的最基本组成单位 正則表達式特殊意义的字符:   .  *  +  ?不能单独表示它们,假设非 ...

  5. Selenium中配置链接使用FTP服务

    Enable the default report solution Step1: Create a suite listener and add codes into it, please watc ...

  6. Spark2.0 VS Spark 1.* -------SparkSession的区别

    Spark .0以前版本: val sparkConf = new SparkConf().setAppName("soyo") val spark = new SparkCont ...

  7. 48.EXt.Data.JsonReader()

    转自:https://blog.csdn.net/huoyanxueren/article/details/2662915?utm_source=blogxgwz6 extJs 2.1学习笔记(Ext ...

  8. java replaceAll 忽略大小写

    public static void main(String[] args) { String temp=" CLASS_path : /aaabb/"; System.out.p ...

  9. 客户端JavaScript Ajax

    创建: 2017/10/21 完成: 2017/10/23   [TODO] 对Ajax收发各类型数据制作模板 补充跨域通信(cross origin) p457  HTTP通信  HTTP  超文本 ...

  10. php排序函数测试

    1.sort,asort,arsort函数 十万个数的数组排序,用了0.17秒 $starttime=explode(' ',microtime());;for ($i=0; $i <10000 ...