ES 学习总结

ES 总结：

es 是基于lucene的， 是java 实现的， 很多概念和lucene是相同的

索引—— 对应数据库的表，mongoDB中的集合

文档，由字段组成， 一个字段可以出现多次。

字段，其类型可以是任意的， 也可以是复合的， 注： 不同类型的同名字段不能设置为不同类型。

分片：每个分片是一个独立的lucene实例， 一个独立的jvm， 一个索引的数据可以有多个 分片组成———— 数据量大的时候， 通常都是这样的， 而且每个分片都是位于集群不同的节点上。

分片的大小是不能控制的， 但是分片数量是可以控制的

副本：或者说副本分片， 他是对原始分片的精确拷贝， 原始分片称为主分片。 它是相对分片的一个概念。 通常，我们对索引的所有操作都是直接作用在主分片上， 然后， es 会将操作同步到副本上去。

主分片不可用了（如对应节点down 掉） 副本会被提升为 主分片。 主分片和其副本是位于不同 节点上的， 这个是必须的， 否则副本不会被分配下去。 因为同一个节点上同时分配主分片/副本是无意义的。 机制决定的。

配置：

rack 表示机架

ip默认是localhost， 只能本机访问， 需要改为具体ip， 以便局域网内其他机器可用访问。

默认端口是 9200， 如果默认端口不可用， 则会自动绑定下一个端口..?

put 和post 的区别， put 可用创建一个不存在的索引， 类型， 或者同时， post 操作时候， 可以创建索引， 但不能同时创建索引/类型， id 也需要指定。。

post 更新文档： 需要先从_source 获取数据， 移除旧文档，应用变更，作为一个新文档创建。 ？？ 这么复杂/麻烦？

———— 如果没有启用 _source 字段， 怎么办？

REST 通过请求头的动词操作， 但是有时候我们需要其他辅助：

_create 指明是创建操作

_update 指明是更新

_search 指明是 search API，

_id 指明id 字段

_type：指明type 获取方式

_all 一个复制了所有其他属性内容的 字段，默认开启， 用于：

_version

_size _source字段原始的

_index 默认禁用 文档被索引到那个 索引文件的信息

_boost

_timestamp 默认禁用，不会存储/索引

_ttl

_shards

upsert

...

URL 的 参数：

pretty 适用于GET操作

routing

映射：

设置字段的类型，存储方式：

如：

PUT /lfs_files

{

"mappings": {

"my_file" : {

"_id": {

"path": "id"

},

"dynamic": "strict",

"date_detection": false

"properties" : {

"id" : {

"type" : "long",

"index": "not_analyzed"

},

"userId" : {

"type" : "long",

"index": "not_analyzed"

...

}

}

}

}

index_name， 可不写，默认为字段名。

index 可以为analyzed 或no ， 默认analyzed

或对字符串类型字段 可以是 not_analyzed , 表示只会, 整个存储起来， 但是不会被分析（就是不会被空格处理/大小写/特殊字符过滤等等之类的）， 只有完全匹配的搜索才能查到该字段

store yes/no， 默认no， 指定是否存储字段原始值。。

boost 权重， 评分用的， 一般用于结果的排序， 过滤

null_value ： 索引时候， 不存在时， 写入的默认值， 如果没有默认行为是忽略。

include_in_all , 是否被包含到 _all 字段中，

_source 字段： 它到底是什么东西？

字符串型：

特有属性：

term_vector: —— 高亮时需要

omit_norms:

index_options:

analyzer： 泛指index_analyzer，search_analyzer， 默认是全局定义的分析器

index_analyzer： 用于索引时

search_analyzer：用于搜索时

ignore_above: 字段的最大长度

数值型：string

precision_step: range 查询时候有用

ignore_malformed:

日期：date

format：

precision_step

ignore_malformed

布尔型： boolean

二进制： binary

只支持 index_name 属性

multi_field:

fields : {}

...

内置分析器：

自定义分析器：

{

settings：{

index: {

analysis： {

analyzer：{

自定义分析器名称：{

tokenizer： xxx 如standard

filter： [

lowercase,

asciifolding,

自定义过滤器名

]

}

}

},

filter：{

自定义过滤器名：{

type： kstemxxx

}

}

}

}

mappings：
	类型名：
		_analyzer: {
			path: xxx  ———— 指明分析器名为 path 对应的字段的那个值， 用于动态设置。。
		}
		_source: {
			enabled : false 	+++++ false 或者true， 表明是否存储文档源，  ———— 具体表明了？？
		}
		_all: {
			enabled : false 	+++++ false 或者true， 表明是否在_all 字段包含所有文本字段的取值。。  false 表示禁用。 它会自动索引大小， 不需要的时候， 最好禁用。
		}

		// 动态映射， 即不具体制定字段类型的时候， 只能靠es来猜了， 那么， 具体如何猜呢？ 它会先参考 动态映射。 当然，如果没有动态映射， 那么就使用默认的机制猜测。
		numeric_detection: true/ false
		dynamic_date_formats: [yyyy-MM-dd hh:mm  ]  是一个数组

		//
		dynamic: false  禁用自动生成映射， 同时禁止自动添加新字段。 默认 true

		dynamic_templates: [
			template名: {
				match: "*"
				//unmatch: ""
				mapping: {
					type: multi_field,
					fields :{
						{name}: { type: dynamic_type},
						str: { type: string}
					}
				}
			}
		]

		_routing： {
			xxx
		}
		properties： {
			xx
		}
	}
}

}

//模板

{

template: "*"

order: 1,

settings: {

index.number_of_replicas: 0

}

mappings：{

default: {

_source: {

enabled: false

}

}

}

}

动态模板：

xxx

路由：

routing 参数

_routing 字段：

_routing： {

requered： true，

path：userId

}

es 全部可用的过滤器类型列表：

官网。。。

默认分析器： 索引时候， 未指明分析器，那么使用这个。

{

settings：{

index: {

analysis： {

analyzer：{

default：{ --- 使用 default 关键字即可

tokenizer： xxx 如standard

filter： [

lowercase,

asciifolding,

自定义过滤器名

]

}

}

},

filter：{

自定义过滤器名：{

type： kstemxxx

}

}

}

}

}

别名：

_aliases 参数

搜索数据：

查询/索引的过程：

索引过程：

搜索过程：

分析过程： 预备字段内容，将其转换为词项（term）的过程， 索引时， 内容 被拆分为 词条流。 —— 词项是带有输入位置等额外信息的词条。词条：单词

词条化：tokenizer ?

过滤： filter？

分析器： 带有0或多个过滤器的分词器。

================================================================================================================================================

查询：

url 查询

DSL

分页

返回版本号

{

version: true

...

}

限制结果分数：

min_score

指定返回字段：

fields ： [ xxx, yyy], 如果没有指定，你们使用默认的 _source, * 表示所有存储的字段

partial_fields:

script_fields:

自定义字段名

script：xxx

搜索类型：

query_and_fetch

。。

count

scan&scroll

dfs_xx

指定搜索执行的位置：

_primary

_local

..

查询类型：

term 查询：

terms 查询：

match

match_phrase

match_phrase_prefix

match_all

multi_match

query_string

field 对query_string 的简化

ids

prefix

fuzzy

wildcard

mlt

range

查询重写：

rewrite

过滤查询结果：

使用过滤器 先查询，再过滤

{

query xxx

filter xxx

}

filtered 先过滤，再查询（效率更高）

{

query

filtered

query

field —— 这个是什么查询类型

filter

term —— term查询

}

过滤器有哪些：

range

term

exists

missing

script

type 用于查询多个索引， 很多文档类型的时候， 用于过滤，限制文档类型

limit 限制每个分片的返回的文档数目

ids

bool and or not

过滤器的别名

过滤器的缓存：

复合查询：

bool 组合

boosting 组合

positive

negative

negative_boost

constant_score

indices 在多个索引上进行查询， 封装一个 索引的数值， 两个查询

indices

indices []

query

no_match_query

custom_fileters_score 封装一个查询， 若干过滤器

custom_boost_factor

custom_score 通过脚本为另一个查询定制分值

排序：

默认排序： score

sort

指定确实字段的行为

动态标准

sort

_script

script

2.8 使用脚本

script

lang 默认mvel

params 脚本参数

使用方法：

_script

script 脚本内容或者 脚本文件名

lang 默认为 mvel

params 参数

脚本中可用的对象:

doc 也可以是 _doc doc['xxx'].value 方式访问 处理(分析)后的文档

_source _source.xxx.value 方式访问 原始字段值

_fields _fields.xxx.value 方式访问 ？

结果分析：

took

timed_out

hits {

total

max_score

hits: [

_index

_type

_id

_version

_source : {

xxx

}

]

}

================================================================================================================================================

================================================================================================================================================ 插件

插件

JavaScript 语言插件

处理文件插件：

elasticsearch/elasticsearch-mapper-attachments

bigdesk

lukas-vlcek/bigdesk

head

mobz/elasticsearch-head

paramedic

SPM

================================================================================================================================================ 非平面数据

非平面数据

对象 obj: {

type ： object,

properties : {

attr1： {

type ： xxx

xxx

}

...

}

}

数组 arr: {

properties : {

element1： {

type ： xxx

xxx

}

...

		}
	}

================================================================================================================================================ 高亮：

高亮：

需要字段原始值： 字段要么 store = yes， 如果是no， 那么 _source 应该是可用的， 否则， 无法高亮。。。

实现：

1 标准实现

2 依赖于term向量

es 会自动选择

html 标签：

{

highlight

pre_tags： [ ]

post_tags: [ ]

fields

requered_field_match

	number_of_fragements
	fragment_size

}

================================================================================================================================================

自动补全

autocomplete

edgeNGram

统计/切面 faceting facet

================================================================================================================================================

================================================================================================================================================ 优化

分析：

_analyze?analyzer=xxx 指定分析器进行分析， 没有analyzer 则使用默认的分析器

_analyze?tokenizer=xxx&filters=xx,yy

解释查询

_explain 查询参数

================================================================================================================================================

================================================================================================================================================ 同义词

{

settings：{

index: {

analysis： {

analyzer：{

synonym分析器: {

tokenizer

filter: [

synonym名

]

}

}

},

filter：{

synonym名：{

type： synonym

ignore_case: true

synonyms: [

jump => leap

...

]

}

}

}

可见，synonym 就是一个分析器， 但是他的 过滤器的类型是 synonym

synonym_path 可以代替synonyms， 表示一个文件

使用 solr 的同义词

同义词等价定义

扩展

使用WordNet 同义词

================================================================================================================================================

================================================================================================================================================ span 查询

span_term

span_first

span_near

span_not

span_or

================================================================================================================================================

================================================================================================================================================ 组合索引

variation API

索引树性结构

url 参数：

parent

child

字段：

_parent

_child

has_child

has_parent

嵌套对象

================================================================================================================================================

================================================================================================================================================ river

mongodb 插件

================================================================================================================================================

================================================================================================================================================ 网关

================================================================================================================================================

================================================================================================================================================ 批量操作

_bulk url 参数

{

create:

update:

delete:

index:

...

}

UDP 批量操作：

批量取

_mget

批量查询

_msearch

================================================================================================================================================

================================================================================================================================================ 统计/切面

统计/切面 是针对 一个或多个索引的， 多个类型？ 一个类型？ 反正一个文档， 肯定是不行的， 数据量太少， 怎么统计， 毫无意义啊

query 统计

得到匹配查询的结果数目

filter 统计

得到匹配查询的结果数目

terms 统计

返回指定字段中使用最多的词项

range 统计

返回某个范围的 结果数目

它会继续 min max mean count total 等值

histogram 统计

对字段取值按间隔 统计， 建立直方图 ， 只对 数字/ 日期型 字段中，

间隔： 通过 interval 控制

date_histogram 统计

statistical 统计

min max mean 平方和 总和 方差 标准差 等等

terms_stats 统计

综合了 terms/ statistical 统计

geo_distance 统计

过来统计结果：

facet_filter

统计计算范围：

scope

nested

================================================================================================================================================

================================================================================================================================================ 相似文档

_mlt 查询参数

min_doc_freq

min_term_freq

...

================================================================================================================================================

================================================================================================================================================ 反查 percolator

_percolator 查询参数

感觉好奇怪，

对文档进行反查？

0 准备，假设存在一个 notifier 的索引，

其中存在类型：

数据：

1 先向 名为_percolator 的索引中， 注册一个查询， 也就是往 _percolator 的索引存入一个文档。 这个是一个普通的put

put _percolator/notifier/id {

query: { xxx } --- 这个字段是必须的， 反查嘛。。

自定义的字段。。。

}

2 用户对notifier 进行查询 等操作 —— 这个过程是用户端发生的

3 进行反查， 也就是对刚才的notifier的索引的 x/_percolator 部分。 这个是一个特殊的查询了

特殊的是， 需要一个x 查询参数 ， why ？？

GET notifier/x/_percolator

{

doc：{

notifier 的一个文档内容 documentX

}

query： {

查询条件 Q

}

}

这个意思是说，

用户进行了很多对notifier 的查询， 那么， 他们是否有人曾经查询过documentX呢， 以 Q 的方式， 换句话说， 是否有人以Q 方式使用特定的这 documentX 呢

================================================================================================================================================

================================================================================================================================================ 节点探索 discovery

zen directory

================================================================================================================================================

================================================================================================================================================ 管理集群

_stats 查询参数 进行 统计

docs 统计信息

store 统计信息

indexing

get

search

_cluster

主节点：

node.master

node.data

discovery.zen.minimum_master_nodes 最小集群节点数

================================================================================================================================================

================================================================================================================================================ 端点

_validate/query 验证

_cluster

nodes

state

_status

_nodes

索引分段

_segements

控制分片 副本

node.zone

移动分片 reroute

post _cluster/reroute

{

commands： {

{

move ： {

from

to

..

		}

		allocate
	}
}

}

================================================================================================================================================

================================================================================================================================================ url 参数

================================================================================================================================================ 滚动

如何操作：

1 先建立scroll 查询， 获取 scroll_id

字段： _scroll_id

url 查询参数 scroll_id

2 然后使用 scroll_id

3 ...

================================================================================================================================================ 特殊字段

================================================================================================================================================ 再平衡 rebalancing

================================================================================================================================================ 预热

_warmer

warm_facet