Elasticsearch创建索引和映射结构详解

前言

这篇文章详细介绍了如何创建索引和某个类型的映射。

下文中[address]指代elasticsearch服务器访问地址(http://localhost:9200)。

1       创建索引

1.1     简单创建语句

curl -XPUT [address]/blog

1.2     带参数的创建语句

curl -XPUT [address]/blog/ -d '{

"settings":{

"number_of_shards":1,     //设置分片数量

"number_of_replicas":2,  //设置副本数量

//自定义索引默认分析器

"index":{

"analysis":{

"analyzer":{

"default":{

"tokenizer":"standard",     //分词器

"filter":[ //过滤器

"asciifolding",

"lowercase",

"ourEnglishFilter"

]

}

},

"filter":{

"ourEnglishFilter":{

"type":"kstem"

}

}

}

}

}

}'

2       创建映射(扁平结构)

2.1     简单创建语句

curl -XPUT [address]/blog/_mapping/article?pretty -d '{

"properties":{

"id":{"type":"long"},

"name":{"type":"string"},

"published":{"type":"date"}

}

}'

2.2     带参数的创建语句

curl -XPUT [address]/blog/_mapping/article?pretty -d '{

"dynamic":"false",  //关闭自动添加字段，关闭后索引数据中如果有多余字段不会修改mapping,默认true

"_id":{"index":"not_analyzed","store":"no"},        //设置文档标识符可以被索引，默认不能被索引。可以设置为"_id":{"path":"book_id"},这样将使用字段book_id作为标识符

"_all":{"enabled":"false"},       //禁用_all字段，_all字段包含了索引中所有其他字段的所有数据，便于搜索。默认启用

"_source":{"enabled":"false"},        //禁用_source字段，_source字段在生成索引过程中存储发送到elasticsearch的原始json文档。elasticsearch部分功能依赖此字段(如局部更新功能),因此建议开启。默认启用

"_index":{"enabled":"true"},  //启用_index字段，index字段返回文档所在的索引名称。默认关闭。

"_timestamp":{"enabled":"true","index":"not_analyzed","store":"true","format":"YYYY-mm-dd"},                  //启用时间戳并设置。时间戳记录文档索引时间，使用局部文档更新功能时，时间戳也会被更新。默认未经分析编入索引但不保存。

"_ttl":{"enabled":"true","default":"30d"},     //定义文档的生命周期,周期结束后文档会自动删除。

"_routing":{"required":"true","path":"name"}      //指定将name字段作为路由，且每个文档必须指定name字段。

"properties":{

"id":{

"type":"long",

//公共属性

"store":"yes",

//数值特有属性

"precision_step":"0"       //指定为该字段生成的词条数，值越低，产生的词条数越多，查询会更快，但索引会更大。默认4

},

"name":{

"type":"string",

//公共属性

"store":"yes",

"index":"not_analyzed", //analyzed:编入索引供搜索、no:不编入索引、not_analyzed(string专有):不经分析编入索引

"boost":"1",    //文档中该字段的重要性，值越大表示越重要，默认1

"null_value":"jim",  //当索引文档的此字段为空时填充的默认值，默认忽略该字段

"include_in_all":"xxx"      //此属性是否包含在_all字段中,默认为包含

//字符串特有属性

"analyzer":"xxx",     //定义用于索引和搜索的分析器名称，默认为全局定义的分析器名称。可以开箱即用的分析器:standard,simple,whitespace,stop,keyword,pattern,language,snowball

"index_analyzer":"xxx",           //定义用于建立索引的分析器名称

"search_analyzer":"xxx",        //定义用于搜索时分析该字段的分析器名称

"ignore_above":"xxx"      //定义字段中字符的最大值，字段的长度高于指定值时，分析器会将其忽略

},

"published":{

"type":"date",

//公共属性

"store":"yes",

//日期特有属性

"precision_step":"0",      //指定为该字段生成的词条数，值越低，产生的词条数越多，查询会更快，但索引会更大。默认4

"format":"YYYY-mm-dd"          //指定日期格式，默认为dateOptionalTime

}

}

}'

3       创建映射(非扁平结构)

在第二章我们讲解了创建映射的语句。所创建的是简单的扁平结构映射。这一章我们看看如何创建非扁平结构映射。

3.1     树形结构

树形结构的作用是为索引层级路径提供便利。例如一家汽车店中可能会有如下路径:/cars/passenger/sport、/cars/passenger/camper、/cars/delivery_truck,我们想在搜索cars的时候返回三条记录，搜索cars/passenger的时候返回前两条记录，可以这样建立映射:

curl -XPUT [address]/path -d '{

"settings":{

//定义一个路径分析器

"index":{

"analysis":{

"analyzer":{

"path_analyzer":{"tokenizer":"path_hierarchy"}

}

}

}

},

"mappings":{

"category":{

"properties":{

"category":{

"type":"string",

"fields":{

//定义多字段对象，使用category.path进行查询时将启用路径分析匹配指定路径下的所有文档，使用category.name进行查询时将精确匹配指定路径的文档，略过结构更深的文档。

"name":{"type":"string","index":"not_analyzed"},

"path":{"type":"string","analyzer":"path_analyzer","store":true}

}

}

}

}

}

}'

3.2     对象

先执行curl –XPUT [address]/extend_mapping，创建extend_mapping索引

创建一个带有对象属性author的类型book:

curl –XPUT [address]/extend_mapping/_mapping/book –d ‘{

"properties":{

"title":{"type":"string","index":"not_analyzed"},

"author":{

"type":"object",

"properties":{

"firstName":{"type":"string","index":"not_analyzed"},

"lastName":{"type":"string","index":"not_analyzed"}

}

}

}

}’

3.3     嵌套对象

嵌套对象允许我们连接一个主文档和多个附属文档，下面通过一个例子来说明嵌套对象的应用场景。

现在我们有一个服装店，需要设计一个数据结构来存储服装店里的服装信息。例如现在有一种名字为”cloth”的服装，这件服装现有两件存货，一件XXL的红色和一件XL的黑色,请设计一个数据结构来存储该服装信息。

我们可能会把数据结构设计成这样:

{

“name”:”cloth”,

“variation”:[

{“size”:”XXL”,”color”:”red”},

{“size”:”XL”,”color”:”black”}

]

}

直观的来看，这个数据结构是能够表现我们所描述的服装信息的，我们依据这个结构创建以下映射(发送rest请求语句略):

{

"properties":{

"name":{"type":"string","index":"not_analyzed"},

"variation":{

"properties":{

"size":{"type":"string","index":"not_analyzed"},

"color":{"type":"string","index":"not_analyzed"}

}

}

}

}

建立映射后索引以下数据:

{

"name": "cloth",

"variation": [

{

"size": "XXL",

"color": "red"

},

{

"size": "XL",

"color": "black"

}

]

}

下面我们查询一下我们的服装信息库，看看是否有尺寸为XXL,颜色为black的服装:

{

"filter": {

"and": [

{

"term": {

"variation.size": "XXL"

}

},

{

"term": {

"variation.color": "black"

}

}

]

}

}

出乎意料的是，该查询返回了结果:

{

......(此处信息略去)

"hits": {

"total": 1,

"max_score": 1,

"hits": [

{

"_index": "extend_mapping",

"_type": "unnested_cloth",

"_id": "AVACnlA-8eAUpvGq_eZa",

"_score": 1,

"_source": {

"name": "cloth",

"variation": [

{

"size": "XXL",

"color": "red"

},

{

"size": "XL",

"color": "black"

}

]

}

}

]

}

}

这与我们的预期不符，我们只有XXL红色和XL黑色两件服装，并没有所查询的XXL黑色服装。

这是因为按照我们之前定义的映射结构，尺寸信息(“size”:”XXL”,”size”:”XL”)和颜色信息(“color”:”red”,”color”:”black”)都存在同一个文档中,ES无法将XXL和red、XL和black绑定在一起，因此在查询时造成了混淆。

解决的方法就是使用嵌套对象，将variation对象的类型指定为嵌套:

重新创建以下映射:

{

"properties":{

"name":{"type":"string","index":"not_analyzed"},

"variation":{

“type”:”nested”,

"properties":{

"size":{"type":"string","index":"not_analyzed"},

"color":{"type":"string","index":"not_analyzed"}

}

}

}

}

索引之前的测试数据:

{

"name": "cloth",

"variation": [

{

"size": "XXL",

"color": "red"

},

{

"size": "XL",

"color": "black"

}

]

}

现在我们通过”type”:”nested”将variation对象指定为嵌套对象，需要注意的是，如果我们对新映射执行类似之前的查询，将无任何文档返回。因为对于嵌套映射，必须要使用专用的查询语法，如下:

{

"filter": {

"nested": {

"path": "variation",

"filter": {

"and": [

{

"term": {

"variation.size": "XXL"

}

},

{

"term": {

"variation.color": "black"

}

}

]

}

}

}

}

这次的查询如我们的预期，没有返回结果。这是因为使用嵌套结构后，当我们索引测试数据时，事实上ES生成了3个文档，一个cloth的主文档，和两个variation对象的附属文档，这样就分离存储了两件服装存货，避免了尺寸和颜色的混淆。