开篇废话

没错,前面扯了一堆SQL SERVER,其实我连Elastic Search根本没动手玩过(是不是与时代有点脱节了?),那今天我就准备尝试安装一个ELK的简单集群出来(这个集群是使用我的小米笔记本创建了两个虚拟机,虚拟出来的一个集群,没钱买阿里云)

虚拟机的操作系统实CentOS 7 64位,不同的Linux版本可能略有差异~

直接安装Elastic Search

安装Master Node

本文也是参考官网文档进行安装,大家可以直接看官网文档,一般来说,比较新一些。

官方文档:https://www.elastic.co/guide/en/elasticsearch/reference/current/getting-started-install.html

1)找个合适的文件夹下载安装包:

curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.2.0-linux-x86_64.tar.gz

友情提示,如果下载速度比较慢,可以拿迅雷这类软件下载好,上传到服务器,迅雷这类软件在下载这种热门资源的时候,还是有速度上的提升的。

2)解压下载下来的文件

本文的版本号均为7.2.0,安装不同的版本时,灵活应变就行。

tar -xvf elasticsearch-7.2.0-linux-x86_64.tar.gz

3)修改配置文件

进入解压后的elasticsearch-7.2.0 文件夹中的config文件夹,并修改elasticsearch.yml 文件中的配置:

cluster.name: jax-elk-group1
node.name: master
node.master: true
network.host: 0.0.0.0
http.cors.enabled: true
http.cors.allow-origin: "*"
cluster.initial_master_nodes: ["master"]

此时我们在elasticsearch-7.2.0文件夹下执行

./bin/elasticsearch

由于我虚拟机内存不够大的原因,他会抛个异常:

ERROR: [2] bootstrap checks failed
[1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65535]
[2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

对于第一个报错ELK官网是这么解释的:

是由于Elasticsearch需要使用大量的文件描述符或文件句柄,用完文件描述符可能是灾难性的,也有可能导致数据丢失,需要确保将运行Elasticsearch的用户能打开文件描述符数量的限制增加到65,536或更高。

官网链接在这里:https://www.elastic.co/guide/en/elasticsearch/reference/current/file-descriptors.html

官网解决方案的链接:https://www.elastic.co/guide/en/elasticsearch/reference/current/setting-system-settings.html#limits.conf

然而,我照官网做了之后,并不管什么用,最终找到了一篇文章:

http://www.kxtry.com/archives/1635

首先第一个问题,需要修改文件etc/security/limits.conf中的一些配置:

执行命令:

sudo vi /etc/security/limits.conf

像文件最后添加内容:

* soft nofile 65536

* hard nofile 131072 (貌似只添加这句就行)

* soft nproc 2048

* hard nproc 4096

然后退出当前的终端重新连接进入,这步非常重要,不重新进不起作用的~

第二个问题需要修改/etc/sysctl.conf中的一些配置:

执行命令:

sudo vi /etc/sysctl.conf

向文件最后添加记录:

vm.max_map_count=655360

保存并退出后执行命令:

sudo sysctl -p

这步跟上面退出终端重新进入一样重要,不执行这个配置不会生效的。

执行完这两步,然后重新执行就可以启动成功了~

./bin/elasticsearch

可以在新开一个终端执行下面命令来验证安装的成果:

curl http://服务器ip:9200/

此时如果安装的没问题,会打印类似下面的内容:

{
"name" : "master",
"cluster_name" : "jax-elk-group1",
"cluster_uuid" : "NtmpxdwtRQOiT8sv8bJrvg",
"version" : {
"number" : "7.2.0",
"build_flavor" : "default",
"build_type" : "tar",
"build_hash" : "508c38a",
"build_date" : "2019-06-20T15:54:18.811730Z",
"build_snapshot" : false,
"lucene_version" : "8.0.0",
"minimum_wire_compatibility_version" : "6.8.0",
"minimum_index_compatibility_version" : "6.0.0-beta1"
},
"tagline" : "You Know, for Search"
}

如果你想在后台启动elastic search进程,那么可以在启动时加个 -d参数:

./bin/elasticsearch –d

到此为止,我们的Master节点(主节点)就安装完毕了

安装Slave node

接下来,我们再次来安装一台Slave节点(从节点),并且跟我们当前的Master节点组成一个Elastic search集群。

Slave节点的大部分步骤和Master节点是一样的,唯一的区别在于elasticsearch.yml 文件中的配置。

cluster.name: jax-elk-group1
node.name: node-01
network.host: 0.0.0.0
http.cors.enabled: true
http.cors.allow-origin: "*"
cluster.initial_master_nodes: ["master"]
discovery.zen.ping.unicast.hosts: ["192.168.154.135"]

配置的时候,需要注意以下几点:

  • cluster.name 一定要跟Master节点配置的一样
  • node.name 是一个唯一标识,一定不要跟Master节点配置的一样,各个不同的Salve也不要重复
  • discovery.zen.ping.unicast.hosts中的IP列表是集群中其他节点的IP地址列表

到这里为止,我们整个集群都安装完成了

使用ElasticSearch-Head可视化界面

默认我们只能通过命令行或者Http的方式来操作Elastic Search,elasticsearch-head 则是一款开源的ElasticSearch管理界面,它的项目主页为:https://github.com/mobz/elasticsearch-head

使用起来也非常简单:

  1. 下载他的源码,不管是使用Clone还是直接使用Github的download zip功能
  2. 执行命令:npm install 还原npm依赖,(依赖于Node.js和npm)
  3. 还原完成后,执行npm start命令启动项目
  4. 浏览器中打开http://localhost:9100/
  5. 修改浏览器中最上方的连接地址(默认是http://localhost:9200

该项目可以在任意一台能访问到ElasticSearch的机器上安装,装在你的本地机器也可以哦~

ELK的安装就介绍到这里喽~更多的ELK的知识,还需要多多探索哦~

SQL数据同步到ELK(二)- Elastic Search 安装的更多相关文章

  1. SQL数据同步到ELK(一)- 日常开篇

    需求 在我们的实际业务中,业务数据大部分是通过传统DB做持久化,但有时会使用Solr/Elastic Search等做搜索.缓存等其他服务,那么如何将数据同步到这些异构的存储系统中呢? 这就是我最近在 ...

  2. SQL数据同步到ELK(四)- 利用SQL SERVER Track Data相关功能同步数据(上)

    一.相关文档 老规矩,为了避免我的解释误导大家,请大家务必通过官网了解一波SQL SERVER的相关功能. 文档地址: 整体介绍文档:https://docs.microsoft.com/en-us/ ...

  3. Elastic Search 安装和配置

    目标 部署一个单节点的ElasticSearch集群 依赖 java环境 $java -version java version "1.8.0_161" Java(TM) SE R ...

  4. elastic search安装与本地测试

    elastic search安装与本地测试 elastic search是一个全文搜索引擎 教程: 综合:http://www.ruanyifeng.com/blog/2017/08/elastics ...

  5. SQL数据同步到ElasticSearch(三)- 使用Logstash+LastModifyTime同步数据

    在系列开篇,我提到了四种将SQL SERVER数据同步到ES中的方案,本文将采用最简单的一种方案,即使用LastModifyTime来追踪DB中在最近一段时间发生了变更的数据. 安装Java 安装部分 ...

  6. ELASTIC SEARCH 安装

    elastic search 2017年3月18日 安装&使用 环境 表 1 环境信息 Centos cat /etc/issue CentOS release 6.8 (Final) cat ...

  7. SQL数据同步之发布订阅

    发布订阅份为两个步骤:1.发布.2.订阅.首先在数据源数据库服务器上对需要同步的数据进行发布,然后在目标数据库服务器上对上述发布进行订阅.发布可以发布一张表的部分数据,也可以对整张表进行发布.下面分别 ...

  8. Elastic Search安装-windows

    转载自:https://blog.csdn.net/linkkb/article/details/82805145 其中稍作修改 ElasticSearch介绍 ES是一个基于Lucene的分布式全文 ...

  9. Elastic Search 上市了,市值翻倍,这群人财务自由了!

    国庆长假,大部分人还深浸在风花雪月之中,而就在昨天(美国时间10月5号),我们 Java 程序员所熟知的大名鼎鼎的 Elastic Search 居然在美国纽约证券交易所上市了! 当说到搜索时,大部分 ...

随机推荐

  1. Hadoop 系列(二)—— 集群资源管理器 YARN

    一.hadoop yarn 简介 Apache YARN (Yet Another Resource Negotiator) 是 hadoop 2.0 引入的集群资源管理系统.用户可以将各种服务框架部 ...

  2. vue中使用vue-amap(高德地图)

    因为项目要求调用高德地图,就按照官方文档按部就班的捣鼓,这一路上出了不少问题. 前言: vue-cli,node环境什么的自己安装设置推荐一个博客:https://blog.csdn.net/wula ...

  3. 算法与数据结构基础 - 链表(Linked List)

    链表基础 链表(Linked List)相比数组(Array),物理存储上非连续.不支持O(1)时间按索引存取:但链表也有其优点,灵活的内存管理.允许在链表任意位置上插入和删除节点.单向链表结构一般如 ...

  4. 【Java笔记】【Java核心技术卷1】chapter3 D2注释

    package chapter3; /** * 文档注释 *@author lp *@version 1 **/ public class D2注释 { //单行注释 /* 长注释 */ }

  5. Spring Cloud下基于OAUTH2+ZUUL认证授权的实现

    Spring Cloud下基于OAUTH2认证授权的实现 在Spring Cloud需要使用OAUTH2来实现多个微服务的统一认证授权,通过向OAUTH服务发送某个类型的grant type进行集中认 ...

  6. Java中...的作用

    Java中...的作用,代表接收若干个相同类型的参数 public void testFunction(int...arr){    //接收若干个int类型的参数     for (int i:ar ...

  7. quick-cocos2dx在eclipse下的lua调试

    文中大部分内容来自http://cn.quick-x.com/?p=253,绿色标记部分为修改部分. 配置编译环境的基本步骤: 安装 Visual Studio 2012 安装 Java SDK 安装 ...

  8. TensorFlow Data模块

    模块作用 tf.data api用于创建训练前导入数据和数据处理的pipeline,使得处理大规模数据,不同数据格式和复杂数据处理变的容易. 基本抽象 提供了两种基本抽象:Dataset和Iterat ...

  9. 面试java后端面经_1

    1 自我介绍(建议提前准备:没准备的可以这样说:来自某学校 姓名 专业 学的啥 为啥学 自己陆陆续续开发的项目 毕业将近 找工作 在哪看到贵公司的招聘 准备了啥 大概这样) 例子:您好!我是来自XXX ...

  10. 定时清理docker私服镜像

    定时清理docker私服镜像 使用CI构建docker镜像进行发布极大促进了大家的版本发布效率,于是镜像仓库也就急速膨胀.为了缓解磁盘压力,我们需要设置一些清理策略. 对于不同docker镜像的清理策 ...