最近在做ES搜索调优,看了一些lucene搜索的文档和代码,本文用于总结调优过程中学到的知识和自己的思考. 在抓到ES慢查询之后,会通过profile或者kibana的Search Profiler console查看具体慢在了哪里.一般在执行profile search之前,需要稍微改变query语句里的查询内容,防止cache影响测试效果. profile主要包括shard级别的query耗时.query语句rewrite耗时以及最终lucene collector的耗时. 一般主要关注qu…

很多刚学elasticsearch的人对于查询方面很是苦恼,说实话es的查询语法真心不简单-  当然你如果入门之后,会发现elasticsearch的rest api设计是多么有意思. 说正题,elasticsearch的查询有两部分组成:query and filter . 下面是官方的query vs  filter的介绍,其实说的也是不明不白的. https://www.elastic.co/guide/en/elasticsearch/guide/current/_queries_and…

本文描述了一个系统,功能是评价和抽象地理围栏(Geo-fencing),以及监控和分析核心地理围栏中业务的表现. 技术栈:Spring-JQuery-百度地图WEB SDK 存储:Hive-Elasticsearch-MySQL-Redis 什么是地理围栏? LBS系统中,地理围栏指的是虚拟边界围成的部分. tips:这只是一个demo,支撑实习生的本科毕设,不代表生产环境,而且数据已经做了脱密处理,为了安全还是隐去了所有数据. 功能描述 1.地理围栏的圈选 (1)热力图 热力图展示的是,北京市…

Elasticsearch Kibana查询语法 2018年06月03日 23:52:30 wangpei1949 阅读数:3992   Elasticsearch Kibana Discover的搜索框中,使用的是Lucene Query Syntax.经常使用,在这里梳理并总结. 测试数据 创建索引设置mapping #创建索引 PUT user_web_info #设置mapping PUT user_web_info/_mapping/user { "properties":…

ElasticSearch查询—分页查询详解 Elasticsearch中数据都存储在分片中,当执行搜索时每个分片独立搜索后,数据再经过整合返回.那么,如何实现分页查询呢? 按照一般的查询流程来说,如果我想查询前10条数据: 1)客户端请求发给某个节点 2)节点转发给个个分片,查询每个分片上的前10条 3)结果返回给节点,整合数据,提取前10条 4)返回给请求客户端 那么当我想要查询第10条到第20条的数据该怎么办呢?这个时候就用到分页查询了. 在ElasticSearch中实现分页查询的方式有…

Elasticsearch 邻近查询示例(全切分分词) JAVA API方式: SpanNearQueryBuilder span = QueryBuilders.spanNearQuery(); span.clause(QueryBuilders.spanTermQuery("Text", "学")); span.clause(QueryBuilders.spanTermQuery("Text", "联")); span.i…

elasticsearch简单查询示例: { "from": "0", //分页,从第一页开始 "size": "10", //分页,从开始页取10页 "version": "true", //显示版本信息 "min_score": "0.15", //限制搜索返回结果的最低得分 "fields": [ //限制返回哪些字段 &…

ElasticSearch高级查询 https://www.imooc.com/video/15759/0 ElasticSearch查询 1,子条件查询:特定字段查询所指特定值 1.1query context,有_score 1.1.1全文本查询,针对文本类型数据 1.1.1.1 模糊匹配 POST http://127.0.0.1/book/_search { "query":{ "match":{ "author":"瓦力&qu…

elasticsearch 分页查询实现方案 1. from+size 实现分页 from表示从第几行开始,size表示查询多少条文档.from默认为0,size默认为10,注意:size的大小不能超过index.max_result_window这个参数的设置,默认为10,000.如果搜索size大于10000,需要设置index.max_result_window参数 PUT _settings { "index": { "max_result_window":…

elasticsearch 基本查询: 基本查询: term查询: terms查询: from和size查询: match查询: match_all查询: match_phrase查询: multi_match查询: 控制范围查询: 返回某些字段查询:…

为了演示不同类型的 ElasticSearch 的查询,我们将使用书文档信息的集合(有以下字段:title(标题), authors(作者), summary(摘要), publish_date(发布日期)和 num_reviews(浏览数)). 在这之前,首先我们应该先创建一个新的索引(index),并批量导入一些文档: 创建索引: PUT /bookdb_index { }} 批量上传文档: POST /bookdb_index/book/_bulk { }} { , "publisher&…

公号:码农充电站pro 主页:https://codeshellme.github.io DSL(Domain Specific Language)查询也叫做 Request Body 查询,它比 URI 查询更高阶,能支持更复杂的查询. 1,分页 默认情况下,查询按照算分排序,返回前 10 条记录. ES 也支持分页,分页使用 from-size: from:从第几个文档开始返回,默认为 0. size:返回的文档数,默认为 10. 示例: POST /index_name/_search {…

elasticsearch地理位置查询 一.背景 二.geo数据类型 1.geo_point 2.geo_shape 三.此处对geo_point类型实战 1.背景 2.插入地点数据 1.创建索引 2.插入地理位置数据 3.执行检索 1.geo_bounding_box 矩形过滤 1.es查询语句 2.查询结果 2.geo_distance 圆形查询 1.es查询语句 2.查询结果 3.geo_distance 查询并排序,返回距离相隔多少米 1.es 查询语句 2.查询结果 4.geo_dis…

一.写入 先来一个简单的官方例子,插入的参数为-XPUT,插入一条记录. curl -XPUT 'http://localhost:9200/test/users/1' -d '{ "user": "test", "post_date": "2009-11-15T14:12:12", "message": "Elastic Search" }' { "_index":…

搭建该平台的目的就是为了运维.研发很方便的进行日志的查询.Kibana一个免费的web壳:Logstash集成各种收集日志插件,还是一个比较优秀的正则切割日志工具:Elasticsearch一个开源的搜索引擎框架(支持群集架构方式). 1 安装需求 1.1 理论拓扑 1.2 安装环境 1.2.1 硬件环境 192.168.50.62(HP DL 385 G7 .RAM:12G.CPU:AMD 6128.DISK:SAS 146*4) 192.168.50.98(HP DL 385 G7 .RAM…

这篇文章有点深度,可能需要一些Lucene或者全文检索的背景.由于我也很久没有看过Lucene了,有些地方理解的不对还请多多指正. 更多内容还请参考整理的ELK教程 关于Term Vectors 额,对于这个专业词汇,暂且就叫做词条向量吧,因为实在想不出什么标准的翻译.说的土一点,也可以理解为关于词的一些统计信息.再说的通俗点,如果想进行全文检索,即从一个词搜索与它相关的文档,总得有个什么记录的信息吧!这就是Term Vectors. 为了不干扰正常的理解,后续就都直接称呼英文的名字吧!免得误导…

Elasticsearch中数据都存储在分片中,当执行搜索时每个分片独立搜索后,数据再经过整合返回.那么,如果要实现分页查询该怎么办呢? 更多内容参考Elasticsearch资料汇总 按照一般的查询流程来说,如果我想查询前10条数据: 1 客户端请求发给某个节点 2 节点转发给个个分片,查询每个分片上的前10条 3 结果返回给节点,整合数据,提取前10条 4 返回给请求客户端 那么当我想要查询第10条到第20条的数据该怎么办呢?这个时候就用到分页查询了. from-size"浅"分页…

在一般的关系型数据库中,都支持连接操作. 在ES这种分布式方案中进行连接操作,代价是十分昂贵的. 不过ES也提供了相类似的操作,支持水平任意扩展,实现连接的效果. 其他内容,参考Elasticsearch官方指南整理 ES中的连接 在ES中支持两种连接方式:嵌套查询 和 has_child.has_parent父子查询 嵌套查询: 文档中包含嵌套的字段,这些字段以数组的形式保存对象,这样每个嵌套的子对象都可以被搜索. has_child.has_parent父子查询: 父子文档是存储在同一个索引…

在上一篇博客中,我们准备好了数据.现在数据已经以我们需要的格式,存放在Elasticsearch中了. 本文讲述如何在Elasticsearch中进行空间GEO查询和聚合查询,以及如何准备ajax接口. 平台的服务端部分使用的springboot+mybatis的基本开发模式.工程结构如下. 可以看到本工程有三个module: 1)moonlight-web是controller和service层的实现: 2)moonlight-dsl封装了ES空间索引查询和聚合查询的方法: 3)moonlig…

终于把这些命令全敲了一遍,话说ELK技术栈L和K我今天花了一下午全部搞定,学完后还都是花式玩那种...E却学了四天(当然主要是因为之前上班一直没时间学,还有安装服务时出现的各种error真是让我扎心了,这绝对是我学编程以来针对某个特定技术花的时间最长的一次学习). #删除school索引DELETE /school#静态映射#format日期格式默认:strict_date_optional_time||epoch_millisPUT /school{"settings": {&quo…

后期博客本人都只给出代码,具体的说明在代码中也有注释. 1.查询删除 //查询删除:将查询到的数据进行删除 @Test public void test8() throws UnknownHostException { //1.指定es集群 cluster.name 是固定的key值,my-application是ES集群的名称 Settings settings = Settings.builder().put("cluster.name", "my-application…

facets接口可以根据query返回统计数据,其中的 terms_stats 是分组统计,根据key的情况返回value的统计数据,类似group by的意思. "terms_stats" : { "key_field" : "", "value_field" : "" } 例子:查询每个ip的请求执行时间 查询语句: 1: { 2: "size": 0, 3: "facet…

前缀查询 匹配包含具有指定前缀的项(not analyzed)的字段的文档.前缀查询对应 Lucene 的 PrefixQuery . 案例 GET /_search { "query": { "prefix" : { "user" : { "value" : "ki", "boost" : 2.0 } } } } 正则表达式查询 regexp (正则表达式)查询允许您使用正则表达式进行…

/_nodes/stats 字段意思   “”   1 {  2  "_nodes": {3 "total": 1, "successful": 1, "failed": 0 }, "cluster_name": "ELKTEST", "nodes": { "lnlHC8yERCKXCuAc_2DPCQ": { "timestamp&qu…

一.引入依赖 <!--Elasticsearch client--> <!-- https://mvnrepository.com/artifact/org.elasticsearch.client/transport --> <dependency> <groupId>org.elasticsearch.client</groupId> <artifactId>transport</artifactId> <ver…

总结一个DSL的用法吧,语法网上查去,只记录一点心得,也是研究了半天,太麻烦了 先附上python代码 #!/usr/bin/env python # _*_ coding:utf-8 _*_ from elasticsearch import Elasticsearch es = Elasticsearch([{'host':'localhost','port':9200}]) index = 'kuaidi' # 精确匹配 query = { "query": { "te…

一.写入 先来一个简单的官方例子,插入的参数为-XPUT,插入一条记录. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 curl -XPUT 'http://localhost:9200/test/users/1' -d '{     "user": "test",     "post_date": "2009-11-15T14:12:12",     "message&q…

这里用的是es5.6.9 bucket_script :它执行一个脚本,该脚本可以对多桶聚合中的指定度量执行每桶计算,指定的度量标准必须为数字,并且脚本必须返回数值. 官方语法 https://www.elastic.co/guide/en/elasticsearch/reference/master/search-aggregations-pipeline-bucket-script-aggregation.html { "bucket_script": { "bucket…

数据准备: PUT /shop { "settings": { "number_of_shards": 3, "number_of_replicas": 2 } } PUT /shop/_mapping/goods { "properties": { "title": { "type": "text", "analyzer": "ik_m…

父-子关系文档 父-子关系文档 在实质上类似于 nested model :允许将一个对象实体和另外一个对象实体关联起来. 而这两种类型的主要区别是:在 nested objects 文档中,所有对象都是在同一个文档中,而在父-子关系文档中,父对象和子对象都是完全独立的文档. 父-子关系的主要作用是允许把一个 type 的文档和另外一个 type 的文档关联起来,构成一对多的关系:一个父文档可以对应多个子文档 .与 nested objects 相比,父-子关系的主要优势有: 更新父文档时,不会…