搜索引擎elasticsearch + kibana + X-pack + IK安装部署
准备安装环境
这次我们安装以下软件或插件:
- elasticsearch(es):You Know, for Search
- kibana:提供很便捷的观察和控制es的网页
- xpack:安全插件,提供授权认证登陆
- IK:分词插件,提供功能强大的中文分词
es建议安装在独立的系统账户下,这里我们创建es账户。
JAVA版本为1.8。
下载elasticsearch和kibana,注意两者版本号要严格保持一致。这里我们用6.7.1(届时生产的阿里云也采用6.7)。
$ cd /home/es
$ wget https://artifacts.elastic.co/downloads/kibana/kibana-6.7.1-linux-x86_64.tar.gz
$ wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.7.1.tar.gz
$ tar -zxvf kibana-6.7.1-linux-x86_64.tar.gz
$ tar -zxvf elasticsearch-6.7.1.tar.gz
配置启动
启动elasticsearch
官方号称开箱即用,这里我们显式的配置几个关键项
修改es配置文件/home/es/elasticsearch-6.7.1/config/elasticsearch.yml
path.data: /home/es/data # 数据文件存放目录
path.logs: /home/es/logs # 日志存放目录
network.host: 192.168.1.212
http.port: 9200
启动elasticsearch,-d参数表示后台运行
$ cd /home/es/elasticsearch-6.7.1/
$ sh bin/elasticsearch -d
检测elasticsearch是否启动成功:
浏览器访问:http://192.168.1.212:9200/
或者:
$ curl http://192.168.1.212:9200/
输出以下内容表示ES已启动:
{
"name" : "uMMV8Hc",
"cluster_name" : "elasticsearch",
"cluster_uuid" : "JHaM0vXORy-In37Duldahg",
"version" : {
"number" : "6.7.1",
"build_flavor" : "default",
"build_type" : "tar",
"build_hash" : "2f32220",
"build_date" : "2019-04-02T15:59:27.961366Z",
"build_snapshot" : false,
"lucene_version" : "7.7.0",
"minimum_wire_compatibility_version" : "5.6.0",
"minimum_index_compatibility_version" : "5.0.0"
},
"tagline" : "You Know, for Search"
}
关闭es,官方没有提供关闭方案,我们直接kill进程
$ ps -efj|grep elasticsearch
# 把es相关的进程挨个Kill掉
启动kibana
这个也是开箱即用的,同样我们显式的配置几个关键项
修改配置文件:/home/es/kibana-6.7.1-linux-x86_64/config/kibana.yml
server.port: 5601 # 访问kibana时的ip/port
server.host: "192.168.1.212"
elasticsearch.hosts: ["http://192.168.1.212:9200"] # 显式指定ES,不指定的话kibana也会默认连接本机的es
logging.dest: /home/es/logs/kibana.log # 日志文件
启动kibana,注意启动参数加"&",后台执行
$ cd /home/es/kibana-6.7.1-linux-x86_64/
$ ./bin/kibana &
访问kibana,浏览器打开192.168.1.212:5601即可
关闭kibana
# 找到后台的kibana进程得费点事
$ ps -efj |grep src/cli
es 11759 9289 11759 9289 0 10:35 pts/6 00:00:45 ./bin/../node/bin/node --no-warnings --max-http-header-size=65536 ./bin/../src/cli
es 12068 11517 12067 11517 0 12:23 pts/7 00:00:00 grep --color=auto src/cli
# 这个11759的就是kibana进程,我们Kill掉即可
$ kill 11759
启用X-pack
X-pack已经集成在当前版本的es中,但是收费项目,我们先试用个30天。
启用trial licence,成功后日志会打出trial - valid字样
$ curl -H "Content-Type:application/json" -XPOST http://192.168.1.212:9200/_xpack/license/start_trial?acknowledge=true
$ tail -f /home/es/logs/elasticsearch.log
[uMMV8Hc] license [c5cf3e70-7287-4d56-942a-19192c82043c] mode [trial] - valid
启用X-pack,在/home/es/elasticsearch-6.7.1/config/elasticsearch.yml配置文件中添加下面这行配置
xpack.security.enabled: true
此时我们再连接192.168.1.212:9200,会报“missing authentication token”,需要先登陆。
接下来修改密码
$ bin/elasticsearch-setup-passwords interactive
Enter password for [elastic]:
Reenter password for [elastic]:
Enter password for [apm_system]:
Reenter password for [apm_system]:
Enter password for [kibana]:
Reenter password for [kibana]:
Enter password for [logstash_system]:
Reenter password for [logstash_system]:
Enter password for [beats_system]:
Reenter password for [beats_system]:
Enter password for [remote_monitoring_user]:
Reenter password for [remote_monitoring_user]:
Changed password for user [apm_system]
Changed password for user [kibana]
Changed password for user [logstash_system]
Changed password for user [beats_system]
Changed password for user [remote_monitoring_user]
Changed password for user [elastic]
给kibana配置账号密码,并重启kibana
$ vi /home/es/kibana-6.7.1-linux-x86_64/config/kibana.yml
...
elasticsearch.username: "kibana"
elasticsearch.password: "123456"
...
重启kibana后,我们在浏览器上连接kibana(192.168.1.212:5601),将弹出登陆页面,此时我们可以用相关权限的账号密码登陆,其中elastic账号拥有管理员权限。
安装使用IK
1、安装IK:
IK的版本号也要求与es和kibana保持一致。
安装方式可以用elasticsearch-plugin安装,或自行在github上下载zip包,解压到/home/es/elasticsearch-6.7.1/plugins/ik目录
这里我们用第1种方式:
$ ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v6.7.1/elasticsearch-analysis-ik-6.7.1.zip
安装完成后重启es。
2、IK的作用:
默认情况下,es处理中文的方式是拆分成单个文字进行匹配,比如“我是中国人”,es默认拆分成我、是、中、国、人这5个字。IK分词器,顾名思义,支持按词分,于是用IK可以拆成我、是、中国人、中国、国人。
3、使用IK:
es默认按单个字拆分中文,如果要用IK分词,在创建索引时需指定分词器:
PUT hereweuseik
{
"settings":{
"number_of_shards": "1",
"number_of_replicas": "1",
"analysis":{
// 使用ik_max_word
"analyzer":{
"ik":{
"tokenizer":"ik_max_word"
}
}
}
},
"mappings":{
// 字段定义
}
}
使用示例
关于使用操作的示例,请参见:
官方Clients
官方维护的客户端见页面:https://www.elastic.co/guide/en/elasticsearch/client/index.html
目前包含以下语言:
- Java REST Client [7.1] —— other versions
- Java API [7.1] —— other versions
- JavaScript API [7.x] —— other versions
- Go API
- .NET API [6.x] —— other versions
- PHP API [6.7.x] —— other versions
- Perl API
- Python API
- Ruby API
- Community Contributed Clients
golang client的源码在github的elastic/go-elasticsearch仓库
GitHub:https://github.com/elastic/go-elasticsearch
GoDoc:https://godoc.org/github.com/elastic/go-elasticsearch
注:注意客户端版本应匹配es的版本。
搜索引擎elasticsearch + kibana + X-pack + IK安装部署的更多相关文章
- elasticsearch + kibana + x-pack + logstash_集群部署安装
elasticsearch 部分总体描述: 1.elasticsearch 的概念及特点.概念:elasticsearch 是一个基于 lucene 的搜索服务器.lucene 是全文搜索的一个框架. ...
- lagstash + elasticsearch + kibana 3 + kafka 日志管理系统部署 02
因公司数据安全和分析的需要,故调研了一下 GlusterFS + lagstash + elasticsearch + kibana 3 + redis 整合在一起的日志管理应用: 安装,配置过程,使 ...
- Kibana在Linux上安装部署及使用说明
Kibana安装及使用说明 Kibana是一个针对Elasticsearch的开源分析及可视化平台,用来搜索.查看交互存储在Elasticsearch索引中的数据. 官方地址:https://www. ...
- logstash+elasticsearch+kibana管理日志(安装)
logstash1.先安装jdk2.wget https://download.elastic.co/logstash/logstash/logstash-2.4.0.tar.gz tar -xzvf ...
- 分布式搜索引擎Elasticsearch在CentOS7中的安装
1. 概述 随着企业业务量的不断增大,业务数据随之增加,传统的基于关系型数据库的搜索已经不能满足需要. 在关系型数据库中搜索,只能支持简单的关键字搜索,做不到分词和统计的功能,而且当单表数据量到达上百 ...
- 分布式搜索引擎ElasticSearch+Kibana (Marvel插件安装详解)
在安装插件的过程中,尤其是安装Marvel插件遇到了很多问题,要下载license.Marvel-agent,又要下载安装Kibana 版本需求 Java 7 or later Elasticsear ...
- elasticsearch kibana logstash(ELK)的安装集成应用
官网关于kibana的学习指导网址是:https://www.elastic.co/guide/en/kibana/current/index.html Kibana是一个开源的分析和可视化平台,设计 ...
- ElasticSearch在linux上的安装部署全程记录
由于项目需求,需要在linux平台搭建一套ES服务.在搭建过程中,遇到各种各样的问题.后来都一一解决.现在要记录下来这个过程,以及其中遇到的问题,及其解决方法. 一.环境配置 操作系统:Cent OS ...
- 快速搭建应用服务日志收集系统(Filebeat + ElasticSearch + kibana)
快速搭建应用服务日志收集系统(Filebeat + ElasticSearch + kibana) 概要说明 需求场景,系统环境是CentOS,多个应用部署在多台服务器上,平时查看应用日志及排查问题十 ...
随机推荐
- shell 发送Post请求,并获取状态码
#!/bin/bash aa=$ result=$(curl -H "Content-type: application/json" -X POST -o /dev/null -s ...
- Ubuntu14.04 使用scp远程传输命令进行服务器文件互传
1.将另一个服务器上的文件拷贝到本地 sudo scp host_name@host_ip:/home/aaa/bbb /ccc/ddd/bbb 上面命令的意思是将远程服务器/home/aaa/目录下 ...
- Fedora桌面系统Idea中的部分中文无法显示解决
在Linux 桌面开发已经有一段时间了,个人用的是最新的Fedora ,装上idea后,写代码再加中文注释的时候发现部分汉字打不出来,删除的时候发现汉字占着位,只是显示不出来,最初以为是注释问题,调整 ...
- 大都市 meg
Description 在经济全球化浪潮的影响下,习惯于漫步在清晨的乡间小路的邮递员Blue Mary也开始骑着摩托车传递邮件了.不过,她经常回忆起以前在乡间漫步的情景. 昔日,乡下有依次编号为1.. ...
- (译)Cg Programming/Unity(Cg编程/Unity)
最近在学习Unity3d中的shader编程,能找到的中文资料比较少,于是,尝试翻译一下wiki Books上的资料,以方便其他跟我一样的入门学习者.由于是第一次翻译技术资料,经验不足,难免出错,请路 ...
- python基础---有关nparray----切片和索引(一)
Numpy最重要的一个特点就是其N维数组对象,即ndarray,该对象是一种快速而灵活的大数据集容器,实际开发中,我们可以利用这种数组对整块数据执行一些数学运算. 有关ndarray,我们就从最简单的 ...
- window下安装php调试工具xdebug
1.https://xdebug.org/wizard.php在方框中输入本地phpinfo.php中的内容会提示对应要安装的版本, 2.https://xdebug.org/download.php ...
- this的那点事
对于很多初学者,this总是搞得我们晕头转向. 现在,我就简单的总结一下关于this的那点事. this在函数定义时经常是不能确定的,只有在函数执行的时候才能最终确定this的归属.this总是指向最 ...
- background-size在IE8不兼容问题
background-size在IE8及以下浏览器不兼容:要解决的话要用滤镜: filter: progid: DXImageTransform.Microsoft.AlphaImageLoader( ...
- SQL查找TCar表中同一辆车前后两条记录的CarId,两条记录中有多个字段值一样
查询同一个表中某一字段值相同的记录 select * from 表名 where 字段 in(select 字段 from 表名 group by 字段 having count(1)>1) s ...