ABSTRACT:

此文在相关性方面介绍三项关键技术:ranking functions, semantic matching features, query rewriting;

此文内容基于拥有百亿url索引的yahoo搜素引擎;

Keywords:

learning to rank; query rewriting; semantic matching; deep learning;

1. INTRODUCTION

1)搜索相关性的发展:

  • 早期 - concentrated on text matching between queries and web documents such as BM25, 概率模型,向量模型;
  • 近期 - 根据用户行为改进搜索相关性,such as 点击模型;

2)目前搜索引擎面临的挑战促使我们寻找文本匹配和点击模型之外的解决方案:

  • semantic gap - queries和网页文档之间的语义障碍;
  • tail query - 搜索的query大部分为tail query,这类query的出现概率很低,对于搜索引擎来说完全是新词;
  • Q&A systems - 用户习惯将搜索引擎看做Q&A系统;

3)在基础相关性上,相关性还包括temporal和spatial维度:

  • temporal:一些query需要的是最新的信息;
  • spatial:越来越多的query对地点需求强烈(旅馆等);

   4)此文提出的解决方案包括:

  • Designing a novel learning to rank algorithm for core ranking and a framework of contextual reranking algorithms;
  • Developing semantic matching features including click similarity, deep semantic matching, and translated text matching;
  • Building an innovative framework to understand user queries with query rewriting and its ranking strategy;
  • Proposing solutions to recency sensitive ranking and location sensitive ranking;

2. BACKGROUND

2.1 Overview of Architecture

略(与国搜差不多)

2.2 Ranking Features

The ranking functions are built on top of these features (斜体国搜已使用):

  • Web graph : the quality or the popularity of a document (eg:PageRank)
  • Document statistics : some basic statistics of the document (such as the number of words in various fields)
  • Document classifier : such as spam, adult, language, main topic...
  • Query Features : which help in characterizing the query type (such as number of terms, frequency of the query and of its terms, click-through rate of the query)
  • Text match : basic texting matching features are computed from different sections of the document (title, body, abstract, keywords) as well as from the anchor text and the URL
  • Topical matching : go beyond similarity at the word level and compute similarity at the topic level;
  • Click : try to incorporate user feedback
  • Time : the freshness of a page

2.3 Evaluation of Search Relevance

1)评估搜索引擎结果的方法有多种,其中包括human labeling(eg:根据专业编辑的判断)、用户行为度量(eg:点击率,query重写率,停留时间等);

2)此文章中为评估base relevance,将采用第一种方法:professional editor's judgement:

对于每个query-url对,分为5个等级:Perfect, Excellent, Good, Fair, Bad;

使用DCG公式度量搜索相关性:(公式待插入)

(for a ranked list of N documents, G represents the weight assigned to the label of the document at position i)

注:DCG公式仅仅在编辑人员对相关性评估相当靠谱的情况下方才使用;

3)此文章中对即将评估的query按照其出现频率分为三个等级:

top query - 有很强辨识性的query,很容易被检索到;

torso query - 信息有限,此类query一年只会被检索几次;

tail query - 一年被检索少于一次的query

=》本论文的重点在于搜索torso query和tail query;

【阅读笔记】Ranking Relevance in Yahoo Search (一)—— introduction & background的更多相关文章

  1. 【阅读笔记】Ranking Relevance in Yahoo Search (四 / 完结篇)—— recency-sensitive ranking

    7. RECENCY-SENSITIVE RANKING 作用: 为recency-sensitive的query提高排序质量: 对于这类query,用户不仅要相关的还需要最新的信息: 方法:rece ...

  2. 【阅读笔记】Ranking Relevance in Yahoo Search (三)—— query rewriting

    5. QUERY REWRITING 作用: query rewriting is the task of altering a given query so that it will get bet ...

  3. 【阅读笔记】Ranking Relevance in Yahoo Search (二)—— maching learned ranking

    3. MACHINE LEARNED RANKING 1) 完全使用不好的数据去训练模型不可行,因为负面结果不可能覆盖到所有方面: 2) 搜索可以看做是个二分问题,在此实验中,我们使用gradient ...

  4. Ranking relevance in yahoo search (2016)论文阅读

    文章链接 https://www.kdd.org/kdd2016/papers/files/adf0361-yinA.pdf abstract 点击特征在长尾query上的稀疏性问题 基础相关性三大技 ...

  5. Mongodb Manual阅读笔记:CH7 索引

    7索引 Mongodb Manual阅读笔记:CH2 Mongodb CRUD 操作Mongodb Manual阅读笔记:CH3 数据模型(Data Models)Mongodb Manual阅读笔记 ...

  6. JavaScript高级程序设计 - 阅读笔记

    [本博客为原创:http://www.cnblogs.com/HeavenBin/] 前言: 大致花费了一个星期的时间把这本书认真看了半本,下面是我做的阅读笔记,希望能够让看这本书的人有个大致的参考. ...

  7. Js引擎解析执行 阅读笔记

    Js引擎解析执行 阅读笔记 一篇阅读笔记 http://km.oa.com/group/2178/articles/show/145691?kmref=search&from_page=1&a ...

  8. 关于 AlphaGo 论文的阅读笔记

    这是Deepmind 公司在2016年1月28日Nature 杂志发表论文 <Mastering the game of Go with deep neural networks and tre ...

  9. [论文阅读笔记] LouvainNE Hierarchical Louvain Method for High Quality and Scalable Network Embedding

    [论文阅读笔记] LouvainNE: Hierarchical Louvain Method for High Quality and Scalable Network Embedding 本文结构 ...

随机推荐

  1. 谈谈CSS3中display属性的Flex布局(弹性布局)

    最近为了微信小程序,回忆起之前有接触过的弹性布局(display:Flex) 网上摘录的原文地址:https://www.cnblogs.com/xuyuntao/articles/6391728.h ...

  2. json的fromjson的方法使用。可以在volley中进行使用

    Gson提供了fromJson()方法来实现从Json相关对象到Java实体的方法. 在日常应用中,我们一般都会碰到两种情况,转成单一实体对象和转换成对象列表或者其他结构. 先来看第一种: 比如jso ...

  3. flask-类视图

    flask-类视图 标准类视图 from flask import Flask, render_template, views, jsonify app = Flask(__name__) class ...

  4. 从零开始实现放置游戏(十三)——实现战斗挂机(4)添加websocket组件

    前两张,我们已经实现了登陆界面和游戏的主界面.不过游戏主界面的数据都是在前端写死的文本,本章我们给game模块添加websocket组件,实现前后端通信,这样,前端的数据就可以从后端动态获取到了. 一 ...

  5. go1.13errors的用法

    go1.13errors的用法 前言 基本用法 fmt.Errorf Unwrap errors.Is As 扩展 参考 go1.13errors的用法 前言 go 1.13发布了error的一些新的 ...

  6. xxx 表 is marked as crashed and last (automatic?) repair 解决办法

    如上图出现 xxx 表 is marked xxxx   的问题 运维那说是因为数据库非正常停掉 时 刚好有数据正在写入 数据库 导致的问题,这个没多大影响,需要 执行命令修复数据库,至于命令是什么? ...

  7. 数据结构和算法(Golang实现)(10)基础知识-算法复杂度主方法

    算法复杂度主方法 有时候,我们要评估一个算法的复杂度,但是算法被分散为几个递归的子问题,这样评估起来很难,有一个数学公式可以很快地评估出来. 一.复杂度主方法 主方法,也可以叫主定理.对于那些用分治法 ...

  8. LIMS产品 - Labvantage技术版本

    最新版本的Labvantage8使用Java版本为Java7(Java8使用最广泛,最新版本为Java12),中间件使用JBoss(国内小型信息化系统(LIMS.QMS等)java体系一般使用Tomc ...

  9. 使用malloc和free函数进行内存动态分配

    一.在学习c语言里面,内存分配这个话题非常有意思,因为我们平时在开发的时候,如果一不小心没注意内存释放的话,写的的程序很容易出错,所以今天就来回顾一下c语言里面的内存动态分配,下面我们先来看一个实例来 ...

  10. threejs地球之后:动画的控制

    上一篇知道如何制作threejs地球之后,就正式coding了,当然还是使用最心爱的Vue.本篇会有一些代码,但是都是十几行的独立片段,相信你不用担心. 布局 在进入本篇主题前,要简单看一下xplan ...