elasticsearch安装与使用(6)-- Logstash安装与配置
由于elasticsearch的search guard 不支持 elasticsearch的jdbc,所以如果安装了search guard认证插件之后,基本上jdbc就废了,所以我们需要用到logstash来代替jdbc生成数据索引。
简介
Logstash是一个接收,处理,转发日志的工具。支持系统日志,webserver日志,错误日志,应用日志,总之包括所有可以抛出来的日志类型。
在一个典型的使用场景下(ELK):用Elasticsearch作为后台数据的存储,kibana用来前端的报表展示。Logstash在其过程中担任搬运工的角色,它为数据存储,报表查询和日志解析创建了一个功能强大的管道链。Logstash提供了多种多样的
input,filters,codecs和output组件,让使用者轻松实现强大的功能。
依赖条件:JAVA
Logstash运行仅仅依赖java运行环境(jre)。各位可以在命令行下运行java -version命令 显示类似如
1.下载安装Logstash
下载
进入elasticsearch官网的下载页面,寻找对应你elasticsearch版本的Logstash,例如对应我elasticsearch的Logstash是2.3.4
进入后选择RPM > 右键点击 -- 复制链接地址
wget https://download.elastic.co/logstash/logstash/packages/centos/logstash-all-plugins-2.3.4-1.noarch.rpm
安装
rpm -ivh logstash-all-plugins-2.3.4-1.noarch.rpm
2.下载mysql java 驱动
到mysql的官网下载
下载后在window解压得到mysql-connector-java-5.1.40-bin.jar mysql_java驱动包,将这个包放到liunx系统的/data/文件夹即可
以下内容为博主自己项目的配置内容,吃瓜群众不需理会!
1.修改配置文件
在/data/ 文件夹生成项目配置文件,
cd /data/ vim logstash_view_all.conf
修改以下内容
注:密码不需要填写加密后的结果,直接填123456
2.设置项目中elasticsearch配置文件
cd /data/www/项目路径/ElasticSearch/ cp index_all-dist.sh index_all.sh
修改数据库名,ip,帐号密码,集群等信息,项目的Elasticsearch的文件夹路径等信息
vim index_all.sh
3.设置配置reindex.php文件
cp reindex-dist.php reindex.php vim reindex.php
修改ip地址
4.开启elasticsearch并且配置开机自启动
systemctl start elasticsearch systemctl enable elasticsearch
5.修改项目配置文件
在命令行查看elasticsearch帐号密码是否配置成功
curl -XGET "http://shifu:123456@127.0.0.1:9200"
6.修改项目中配置文件
vim Application/Common/Conf/config.php
/*elasticsearch相关配置*/
'ELASTIC_SEARCH' => array(
'hosts' => array(
'http://shifu:123456@192.168.117.128:9200'//安全插件配置的帐号密码为shifu,123456
),
'index' => 'test'
)
7.运行Logstash,生成索引;生成索引后,Logstash会自动关闭
/opt/logstash/bin/logstash -f /data/logstash_view_all.conf
查看Logstash的运行状态
ps -ef |grep logstash
查看索引生成效果
在浏览器中输入
http://dev.test.net:9200/test/_search
成功生成显示
elasticsearch安装与使用(6)-- Logstash安装与配置的更多相关文章
- ElasticSearch Kibana 和Logstash 安装x-pack记录
前言 最近用到了ELK的集群,想想还是用使用官方的x-pack的monitor功能对其进行监控,这里先上图看看: 环境如下: 操作系统: window 2012 R2 ELK : elasticsea ...
- ElasticSearch学习笔记(三)logstash安装和logstash-input-jdbc插件
ElasticSearch的索引可以手动添加索引的,就是类似下面这样添加的 PUT /movies/movie/1 { "title": "The Godfather&q ...
- Elasticsearch+Kibana+Logstash安装
安装环境: [root@node- src]# cat /etc/redhat-release CentOS Linux release (Core) 安装之前关闭防火墙 firewalld 和 se ...
- 终结初学者对ElasticSearch、Kibana、Logstash安装的种种困难
项目中准备使用ElasticSearch,之前只是对ElasticSearch有过简单的了解没有系统的学习,本系列文章将从基础的学习再到深入的使用. 咔咔之前写了一份死磕MySQL文章,如今再入一个系 ...
- logstash安装及基础入门
Logstash是一款开源的数据收集引擎,具备实时管道处理能力.简单来说,logstash作为数据源与数据存储分析工具之间的桥梁,结合 ElasticSearch以及Kibana,能够极大方便数据的处 ...
- logstash安装与logstash-input-jdbc插件使用
ElasticSearch的索引可以手动添加索引的,就是类似下面这样添加的 PUT /movies/movie/1 { "title": "The Godfather&q ...
- 第三篇:Logstash 安装配置
Logstash 简介: Logstash 是一个实时数据收集引擎,可收集各类型数据并对其进行分析,过滤和归纳.按照自己条件分析过滤出符合数据导入到可视化界面.Logstash 建议使用java1.8 ...
- ElasticStack之Logstash安装
服务器环境 操作系统 Host:port node 1 CentOS 7.2.1511 11.1.11.127:9200 node1 2 CentOS 7.2.1511 11.1.11.128:920 ...
- ELK 学习笔记之 Logstash安装
Logstash安装: https://www.elastic.co/downloads/logstash 下载解压: tar –zxvf logstash-5.6.1.tar.gz 在/usr/lo ...
随机推荐
- Jsp应用EL和JSTL实例对比。
普通方式: register.jsp <%@ page language="java" import="java.util.*" pageEncoding ...
- selenium python学习笔记---添加等待时间
http://selenium-python.readthedocs.io/waits.html 有时候为了保证脚步运行的稳定性,需要在脚本中添加等待时间 添加休眠:需要引入time包,选择一个固定的 ...
- PO_标准采购流程请购采购接受入库(流程)
2014-06-03 Created By BaoXinjian
- Python 字典 copy()方法
描述 Python 字典 copy() 方法返回一个字典的浅拷贝(父不变,子变). 语法 copy() 方法语法: D.copy() 参数 无. 返回值 返回一个字典的浅拷贝(父不变,子变). 实例 ...
- vim打造开发IDE
个人的插件和配置 set nocompatible " 去除VI一致性,必须要添加 filetype off " 必须要添加 " advanced keys " ...
- (三)RocketMq入门之独立线程处理业务
一.示例代码 这段代码实现了一个独立线程监听在一个特殊的消息队列上,一旦收到消息就处理并发送给MQ,然后推送给所有的消费者. import com.alibaba.rocketmq.client.ex ...
- POJ 1789:Truck History(prim&&最小生成树)
id=1789">Truck History Time Limit: 2000MS Memory Limit: 65536K Total Submissions: 17610 ...
- mysql查询-不存在记录时赋对应的数据
使用mysql数据库,执行查询的时候,有时候就不存在记录,但是正好在不存在记录的时候又需要给赋予相应的查询结果字段,代码实现如下: select IFNULL(('), '1970-01-01 00: ...
- STORM在线业务实践-集群空闲CPU飙高问题排查(转)
最近将公司的在线业务迁移到Storm集群上,上线后遇到低峰期CPU耗费严重的情况.在解决问题的过程中深入了解了storm的内部实现原理,并且解决了一个storm0.9-0.10版本一直存在的严重bug ...
- 摘记—Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Cha
What a Unicode string ? The binaries in RAM have the final word. NOT string literals in Text Editor( ...