# 检查Java版本 java -version # 安装Elasticsearch,所有节点均安装并解压 wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch6.3.0.tar.gz 2.tar -xf elasticsearch-6.3.0.tar.gz -C /usr/local # 修改配置文件 vim /usr/local/elasticsearch6.3.0/config/elasticsear…
Elasticsearch集群知识笔记 Elasticsearch内部提供了一个rest接口用于查看集群内部的健康状况: curl -XGET http://localhost:9200/_cluster/health response结果: { "cluster_name": "format-es", "status": "green", ... } 这里的status有3种状态,分别是green(所有主分片和复制分片都可用…
elasticsearch集群搭建实例 下个月又开始搞搜索了,几个月没动这块还好没有落下. 晚上在自己虚拟机上搭建了一个简易搜索集群,分享一下. 操作系统环境: Red Hat 4.8.2-16 elasticsearch : elasticsearch-1.4.1 集群搭建方式: 一台虚拟机上2个节点. 集群存放路径:/export/search/elasticsearch-cluster 必备环境:  java运行环境 集群搭建实例展示: 1. 解压tar包,创建集群节点 #进入到集群路径…
我们所常见的电商搜索如京东,搜索页面都会提供各种各样的筛选条件,比如品牌.尺寸.适用季节.价格区间等,同时提供排序,比如价格排序,信誉排序,销量排序等,方便了用户去找到自己心里理想的商品. 站内搜索对于一个网站几乎是标配,只是搜索的强大与否的区别,有的网站只支持关键词模糊搜索,而淘宝,京东提供了精细的筛选条件,同时支持拼音搜索等更方便的搜索方式. 由于笔者在一家做网络文学的公司工作,所以实现就是以小说为商品的搜索,具体可以参考起点网小说的搜索. 如图所示,起点网的搜索提供了关键词搜索和排序条件以…
前面几课我们已经把ES的基本概念和查询了解了,大家知道ES的核心优势就是天生支持分布式,所以,这课我们专门讲讲怎么搭建实现ES的集群部署. ES分布式原理 1.es分布式概念 主分片(Primary shard) 索引的子集,索引可以切分成多个分片,分布到不同的集群节点上.分片对应的是 Lucene 中的索引.默认是根据id进行hash分片的.副本分片(Replica shard)每个主分片可以有一个或者多个副本.Mapping 相当于数据库中的schema,用来约束字段的类型,不过 Elast…
本次博文发两块,前部分是怎样搭建一个Elastic集群,后半部分是基于Java对数据进行写入和聚合统计. 一.Elastic集群搭建 1. 环境准备. 该集群环境基于VMware虚拟机.CentOS 7系统,公司目前用的服务器系统基本全是CentOS系统,因此就选了这个.Elasticsearch需要依赖的最低环境就是JDK8,且要配置好环境变量JAVA_HOME. Elasticsearch的安装也可以查看官网给出的安装说明. 虚拟机系统采用的是最小化安装,没有安装桌面程序.安装完程序再安装J…
需搭建服务器环境 操作系统 Host:port node 1 CentOS 7.2.1511 11.1.11.127:9200 node1 2 CentOS 7.2.1511 11.1.11.128:9200 node2 3 CentOS 7.2.1511 11.1.11.129:9200 node3 Elasticsearch运行需要创建es用户 1 创建 elasticsearch 用户组 [root@localhost ~]# groupadd elasticsearch 2 创建用户 e…
最近在网上看到很多ElasticSearch集群的搭建方法,本人在这人使用Elasticsearch5.0.1版本,介绍如何搭建ElasticSearch集群并安装head插件和其他插件安装方法. 一.搭建环境(2台CentOS 7系统服务器) 所需软件 Elasticsearch-5.0.1.tar.gz node-v4.2.2-linux-x64.tar.gz 基础环境JAVA yum -y install java-1.8* java -version #检查java是否安装成功 测试环境…
现有两部机器:192.168.31.86,192.168.31.87   参考以往博文对Elasticsearch进行配置完成:http://www.cnblogs.com/zhongshengzhen/p/elasticsearch_mysql.html 1.注意事项 集群需要在同一网段   2.配置elasticsearch.yml cluster.name :配置es的集群名称,不同的集群用名字来区分, 如果在同一网段下有多个集群,就可以用这个属性来区分不同的集群.   node.name…
1.es需要java环境,故先检查java环境是否正常 2.下载elasticsearch安装包 http://www.elasticsearch.org/download/ 目前最新版本到1.4.0 ,Linux 下载es命令: wget https://download.elasticsearch.org/elasticsearch/elasticsearch/elasticsearch-1.4.0.tar.gz 3.启动es Linux下解压 :tar -zxvf elasticsearc…
1.系统环境 三台服务器(最好是单数台,跟master选举方式有关),确保机器互相ping的通,且都需要装了jdk 8环境,机器IP和 elasticsearch 的节点名称如下: cluster name node name IP Addr 说明 local_ES node-01 192.168.2.10 local_ES node-02 192.168.2.11 local_ES node-03 192.168.2.12 2.安装部署 官网下载linux下安装包,https://www.el…
Elasticsearch 是一个极其强大的搜索和分析引擎,其强大的部分在于能够对其进行扩展以获得更好的性能和稳定性. 本教程将提供有关如何设置 Elasticsearch 集群的一些信息,并将添加一些操作技巧和最佳实践来帮助您入门.但应该强调的是,每个 Elasticsearch 设置可能会因多种因素而异,包括服务器上的工作负载.索引数据量.硬件规格,甚至操作员的经验. 什么是 Elasticsearch 集群? 顾名思义,Elasticsearch 集群是一组连接在一起的一个或多个 Elas…
zookeeper单机(Standalones模式)和集群搭建: 前奏: (1).zookeeper也可以在windows下使用,和linux一样可以单机也可以集群,具体就是解压zookeeper-3.4.6.tar.gz,然后进入conf目录修改配置文件zoo_sample.cfg,复制一份并改名zoo.cfg(这是默认名称) 编辑zoo.cfg里面的dataDir=/tmp/zookeeper(把这个路径换成windows带盘符的路径,单机版就改这么一点,集群版参考下面的Linux环境下集群…
###Redis集群### 0.准备 软件: redis-3.0.0.gem redis-3.0.0.tar.gz#源码   1.安装ruby环境 redis基于ruby槽位计算,hash算法技术,key是用hash存在的,key分布在数组的槽位内(16384个槽位),下标从0到2^N,并且采用链表解决冲突. yum install -y ruby yum install -y rubygems 2.安装ruby和redis的接口程序 cp redis-3.0.0.gem /usr/local/…
系统为CentOS7,创建9001-9006 6个文件夹,复制 redis-server redis.conf 文件到6个新文件夹下 redis.conf文件配置如下: port 9001 daemonize yes cluster-enabled yes cluster-config-file nodes.conf cluster-node-timeout 3000 cluster-require-full-coverage no appendonly yes 分别进入900X文件夹下,运行…
自己用一台 阿里云 服务器 搭建ES集群的时候,总是报上面的问题. 而且两个ES服务都是报同样的问题.自己的配置文件如下: es服务1配置文件 cluster.name: elasticsearch node.name: node-1 node.attr.rack: r1 path.data: /usr/local/elasticsearch-6.3.0/data path.logs: /usr/local/elasticsearch-6.3.0/logs node.master: true #…
安装配置elasticsearch不详述 环境:主elasticsearch IP 172.16.90.11 备elasticsearch IP  172.16.90.12 修改配置文件 /etc/elasticsearch/elasticsearch.yml 172.16.90.11 cluster.name: my-elk node.name: prd-es-kibana-01 path.data: /data/es-data path.logs: /var/log/elasticsearc…
1.下载elasticsearch到本地并解压 下载地址: https://www.elastic.co/cn/downloads/elasticsearch 解压之后复制两份,node1当作主节点,node2.node3当作从节点 2.修改主节点配置文件 而我们只需要修改 /config 目录下的 elasticsearch.yml 文件 node-1: #集群名字cluster.name: elasticsearch-cluster# 节点名字node.name: node-1#是否作为主机…
1.准备 1.1.组件 JDK:1.8版本及以上: ElasticSearch:6.2.4版本: 1.2.服务器 3台服务器 2.安装 2.1.下载解压 wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.4-linux-x86_64.tar.gz mkdir /opt/elk/elasticsearch- tar zxvf elasticsearch-.tar.gz -C /opt/elk/el…
1.安装虚拟机 VMware workstation CentOS 镜像 安装Linux虚拟机:(在Win7上) 1)安装VMwareWorkstations(可修改配置) 2)添加CentOS镜像(启动安装 ->配置网络) 网络配置:NAT模式 网络重启:service network restart 关闭系统:shutdown -h now 2.远程连接 Xshell5 Xftp5 3.在Linux上搭建Hadoop集群 下载软件 1. Jdk:http://www.oracle.com/t…
这篇文章介绍的是简单的配置Hadoop集群的方法,适合实验和小型项目用,正式运行的集群需要用更正规的方法和更详细的参数配置,不适合使用这篇文章. 相关随笔: 用python + hadoop streaming 编写分布式程序(一) -- 原理介绍,样例程序与本地调试 用python + hadoop streaming 编写分布式程序(二) -- 在集群上运行与监控 用python + hadoop streaming 编写分布式程序(三) -- 自定义功能 安装 JDK 在终端输入 $ ja…
一.安装Linux虚拟机 二.安装go运行环境 https://www.cnblogs.com/xmzncc/p/6218694.html wget http://mirrors.flysnow.org/golang/go1.7.5.linux-amd64.tar.gz 三.安装JDK 四.安装zookeeper集群 五.安装codis 六.启动顺序 1.启动zk 2.启动dashboard nohup bin/codis-dashboard --ncpu=2 --config=conf/das…
本文中所有带引号的命令,请手动输入引号,不知道为什么博客里输入引号,总是自动转换成了中文 基本组成 pod:k8s 最小单位,类似docker的容器(也许) 资源清单:资源.资源清单语法.pod生命周期 调度器:将容器分配到对应pod的功能组件(描述应该没错吧) 服务发现:通过暴露地址和端口,让客户端访问 存储组成: configMap:配置文件 secret:安全相关 volume:数据 安全体系:集群认证.体系.访问控制 HELM :貌似包含了一些集群一键部署的命令 证书:k8s许可只有一年…
需要编辑的文件是config/elasticsearch.yml文件 需要配置的项目有: # Use a descriptive name for your cluster: # cluster.name: Hadoop # # ------------------------------------ Node ------------------------------------ # # Use a descriptive name for the node: # #node.name: n…
准备说明: 两台服务器 Ip分别为 192.168.239.78(主),192.168.239.49(从) 主服务器上配置如下:1.上传es5.5.0版本至主服务器2.解压 unzipunzip elasticsearch-5.5.0.zip3.进入config 目录4.修改elasticsearch.ymlcluster.name: elasticsearchnode.name: node-1node.master: truediscovery.zen.ping.unicast.hosts:…
源码安装Nginx: tar -zxvf nginx-1.8.0.tar.gz -C /nginx/        #解压Nginx rpm -ivh keepalived-1.2.13-5.el6_6.i686.rpm        #安装keepalived service iptables status        #查看系统防火墙状态 service iptables stop           #停止系统防火墙(重启后恢复) chkconfig iptables --list   …
0.修改IP,主机名,hosts文件         setup        修改网卡IP         service  network  restart        重启网络服务使IP生效 vim /etc/sysconfig/network修改主机名 vim /etc/hosts/修改hosts文件 192.168.126.128 hadoop001 192.168.126.129 hadoop002 192.168.126.130 hadoop003 192.168.126.131…
参考 https://blog.51cto.com/14783669/2558785…
一.为何要搭建 Elasticsearch 集群 凡事都要讲究个为什么.在搭建集群之前,我们首先先问一句,为什么我们需要搭建集群?它有什么优势呢? (1)高可用性 Elasticsearch 作为一个搜索引擎,我们对它的基本要求就是存储海量数据并且可以在非常短的时间内查询到我们想要的信息.所以第一步我们需要保证的就是 Elasticsearch 的高可用性,什么是高可用性呢?它通常是指,通过设计减少系统不能提供服务的时间.假设系统一直能够提供服务,我们说系统的可用性是 100%.如果系统在某个时…
Ubuntu 14.04中Elasticsearch集群配置 前言:本文可用于elasticsearch集群搭建参考.细分为elasticsearch.yml配置和系统配置 达到的目的:各台机器配置成功,可以达到如下效果: elasticsearch节点组成集群,对外来看俨如一台机器 elasticsearch节点的内存得到优化调整 一. elasticsearch.yml配置 network.host: "172.16.0.4" #这里可以是内网ip.机器名 bootstrap.ml…