一.highlight简介 highlight是提升用户体验的重要手段,搜索引擎通过高亮突出命中关键字等方式,方便用户通过关键字周围的信息快速的确认是否是自己希望的结果: highlight功能通常包含以下三个主要的处理过程 1.将字段文本拆分为小的片段: 2.找出最相关的片段: 3.高亮查询关键字: 二.elasticsearch的highlight功能 elasticsearch提供了专门的高亮请求参数highlight,返回的记过中也会包含对应的高亮信息: 在查询语句中,我们要求对text…

控制相关度 相关度评分背后的理论 如何计算评分的 Lucene 使用布尔模型(Boolean model) 查找匹配文档 并主要的借鉴了 词频/逆向文档频率(term frequency/inverse document frequency) 和 向量空间模型(vector space model),同时加入 协调因子 字段长度归一化 以及词或查询语句权重提升 布尔模型 就是在查询中使用 AND . OR 和 NOT (与.或和非) 来匹配文档 词频/逆向文档频率(TF/IDF) 一个文档的相关…

语法高亮库基础原理 在研究使用能够在web页面上代码语法高显的解决方案时,发现有很多现成的开源库.比较中意的有prism.js,highlightjs.他们的原理基本上核心就两点: 1. 利用html的<pre>特性:即原封不动显示code 2. 针对不同源代码其语法结构特点,设计该语言的正则匹配规则集.库代码将针对待高显的源代码做正则匹配,形成新的显示内容,该内容由浏览器在<pre>元素中原样展示 在试用prism或者highlightjs时,简单的css代码可以非常方便的工作,…

前言 之前已经分享过Elasticsearch的使用和原理的知识,由于近期在公司内部做了一次内部分享,所以本篇主要是基于之前的博文的一个总结,希望通过这篇文章能让读者大致了解Elasticsearch是做什么的以及它的使用和基本原理. 生活中的数据 搜索引擎是对数据的检索,所以我们先从生活中的数据说起. 我们生活中的数据总体分为两种:结构化数据 和 非结构化数据. 结构化数据: 也称作行数据,是由二维表结构来逻辑表达和实现的数据,严格地遵循数据格式与长度规范,主要通过关系型数据库进行存储和管理.…

highlight.js是一款基于JavaScript的语法高亮库,目前支持125种编程语言,有63种可供选择的样式,而且能够做到语言自动识别,和目前主流的JS框架都能兼容,可以混合使用. 这款高亮库可以用在博客系统中,其使用方法及其简单,几乎不需要任何学习成本,下面介绍highlight.js的使用. 1.获取highlight.js库,用户可以从官网获取: 地址:https://highlightjs.org/download/ highlight.js库支持在线定制,按照默认的选择点击Do…

前言 最近 TL 分享了下 <Elasticsearch基础整理>https://www.jianshu.com/p/e8226138485d ,蹭着这个机会.写个小文巩固下,本文主要讲 ES -> Lucene 的底层结构,然后详细描述新数据写入 ES 和 Lucene 的流程和原理.这是基础理论知识,整理了一下,希望能对 Elasticsearch 感兴趣的同学有所帮助. 一.Elasticsearch & Lucene 是什么 什么是 Elasticsearch ? Ela…

概要 本篇主要介绍增量更新(partial update,也叫局部更新)的核心原理,介绍6.3.1版本的Elasticsearch脚本使用实例和增量更新的优势. 增量更新过程与原理 简单回顾 前文我们有简单介绍过增量的语法,简单回顾一下请求示例: POST /music/children/1/_update { "doc": { "length": "76" } } 一般从客户端到Elasticsearch,完整的应用请求流程基本是这样的: 客户…

概要 本篇我们来看看shard内部的一些操作原理,了解一下人家是怎么玩的. 倒排索引 倒排索引的结构,是非常适合用来做搜索的,Elasticsearch会为索引的每个index为analyzed的字段建立倒排索引. 基本结构 倒排索引包含以下几个部分: 某个关键词的doc list 某个关键词的所有doc的数量IDF(inverse document frequency) 某个关键词在每个doc中出现的次数:TF(term frequency) 某个关键词在这个doc中的次序 每个doc的长度:…

概要 本篇主要介绍聚合查询的内部原理,正排索引是如何建立的和优化的,fielddata的使用,最后简单介绍了聚合分析时如何选用深度优先和广度优先. 正排索引 聚合查询的内部原理是什么,Elastichsearch是用什么样的数据结构去执行聚合的?用倒排索引吗? 工作原理 我们了解到倒排索引对搜索是非常高效的,但是在排序或聚合操作方面,倒排索引就显得力不从心,例如我们举个实际案例,假设我们有两个文档: I have a friend who loves smile love me, I love…

单机es可以用,没毛病,但是有一点我们需要去注意,就是高可用是需要关注的,一般我们可以把es搭建成集群,2台以上就能成为es集群了.集群不仅可以实现高可用,也能实现海量数据存储的横向扩展. 新的阅读体验地址: http://www.zhouhong.icu/post/138 一.Elasticsearch分片机制: 每个索引可以被分片,每个主分片都包含索引的数据. 副本分片是主分片的备份,主挂了,备份还是可以访问,这就需要用到集群了. 同一个分片的主与副本是不会放在同一个服务器里的,因为一旦宕机…