【阅读笔记】Ranking Relevance in Yahoo Search (四 / 完结篇)—— recency-sensitive ranking
7. RECENCY-SENSITIVE RANKING
作用:
为recency-sensitive的query提高排序质量;
对于这类query,用户不仅要相关的还需要最新的信息;
方法:recency-demoted relevance
1) 对每篇doc,按照它的freshness程度进行分级:very fresh, fresh, slightly out-dated, stale, 和 non-time-sensitive(与时间无关);
2) 在base relevance的基础上,根据freshness进一步调整relevance:
| VF | F | SO | S | NT | |
| Perfect | Perfect | Perfect | Excellent | Good | Perfect |
| Excellent | Perfect | Excellent | Good | Fair | Excellent |
| Good | Good | Good | Fair | Bad | Good |
| Fair | Fair | Fair | Bad | Bad | Fair |
| Bad | Bad | Bad | Bad | Bad | Bad |
3)数据:“收集training data”
- 寻找大量的近期标签是不太可能的事情,因为近期的标签总是很快就out of data;
- 因此需要利用a large relevance dataset without recency labels and a small recency dataset for building the recency ranker;
4)公式:(待添加)
备注:
- 其中freshness组件是基于recency dataset训练得到的:通过time-sensitive classifier来决定此component是否要被添加;
- frel(x)代表基本的ranker;rfresh(x)代表freshness组件;cts代表time-sensitivity分类器;
- 仅当Cts表明x为time-sensitive query-url对时,rfresh(x)才被添加;
重点:time-sensitive classifier的训练;freshness component;
1) time-sensitive classifier
use the recency dataset and transform the freshness labels into binary labels (eg:non-time-sensitive to negative and other labels to positive) and train a binary classfier;
2)build rfresh(x)
use the frel(x) as the base ranker, and add more trees to optimize the goal of recency-demoted relevance;
8. LOCATION-SENSITIVE RANKING
location-sensitive query:
一些query的搜索结果与location关系密切,此类query我们称之为location-sensitive queries, 分为:
explicit local query - queries with specific location names(eg:"restaurants Boston");
implicit local query - queries without location but with location-sensitive intention(eg:"restaurant");
方法:通过query和url直接的距离d(query, url)来计算;
但如果使用过去的learning-to-rank模型的话,d(query, url)特征的影响不大,所以新建以下模型用来计算 -
模型:location boosting rankin model
1)分别从query和web page中提取出location:
- explicit local query - directly parse the location in explicit local query;
- implicit local query - use use's location;
- web pages - extracted based on the query-url click graph from search logs,or parse the locations from urls directly;
2)根据各自的location,计算query和web page之间的距离:
公式(待加)
以上logistic function考虑到base relevance和location之间的距离两个因素:
- 当doc的url地址和用户很接近,而且doc的内容也和query匹配时,对该doc进行提权操作;
- 若doc的url地址和用户很接近,但是doc的内容与query不相关,将不对该doc提权,ranking结果此时仅有base ranking function决定;
- 若doc的内容与query相关度很高,但doc的url地址与用户相隔很远,将不对该doc提权,ranking结果此时仅有base ranking function决定;
备注:
d^(query,url)代表d(query,url)的归一化,范围为[0,1];
fb(x)表示基于base ranking function得到的query和url的相关度;
3)参数的确定:
参数w, α, β通过以下公式由成对的数据确定 -
公式(待加)
备注:
其中P={(pi, pj)| pi > pj}是对于同一个query的一系列url pairs,pi > pj表示pi的相关性好于pj;
我们通过standard gradient descent approach来得到参数的最优化结果;
9. CONCLUSION
In this paper, we introduce the comprehensive relevance solutions of Yahoo search.
【阅读笔记】Ranking Relevance in Yahoo Search (四 / 完结篇)—— recency-sensitive ranking的更多相关文章
- 【阅读笔记】Ranking Relevance in Yahoo Search (二)—— maching learned ranking
3. MACHINE LEARNED RANKING 1) 完全使用不好的数据去训练模型不可行,因为负面结果不可能覆盖到所有方面: 2) 搜索可以看做是个二分问题,在此实验中,我们使用gradient ...
- 【阅读笔记】Ranking Relevance in Yahoo Search (一)—— introduction & background
ABSTRACT: 此文在相关性方面介绍三项关键技术:ranking functions, semantic matching features, query rewriting: 此文内容基于拥有百 ...
- 【阅读笔记】Ranking Relevance in Yahoo Search (三)—— query rewriting
5. QUERY REWRITING 作用: query rewriting is the task of altering a given query so that it will get bet ...
- Ranking relevance in yahoo search (2016)论文阅读
文章链接 https://www.kdd.org/kdd2016/papers/files/adf0361-yinA.pdf abstract 点击特征在长尾query上的稀疏性问题 基础相关性三大技 ...
- 短信发送接口被恶意访问的网络攻击事件(四)完结篇--搭建WAF清理战场
前言 短信发送接口被恶意访问的网络攻击事件(一)紧张的遭遇战险胜 短信发送接口被恶意访问的网络攻击事件(二)肉搏战-阻止恶意请求 短信发送接口被恶意访问的网络攻击事件(三)定位恶意IP的日志分析脚本 ...
- Hadoop阅读笔记(四)——一幅图看透MapReduce机制
时至今日,已然看到第十章,似乎越是焦躁什么时候能翻完这本圣经的时候也让自己变得更加浮躁,想想后面还有一半的行程没走,我觉得这样“有口无心”的学习方式是不奏效的,或者是收效甚微的.如果有幸能有大牛路过, ...
- Mina源码阅读笔记(四)—Mina的连接IoConnector2
接着Mina源码阅读笔记(四)-Mina的连接IoConnector1,,我们继续: AbstractIoAcceptor: 001 package org.apache.mina.core.rewr ...
- Kafka 权威指南阅读笔记(第三章,第四章)
Kafka 第三章,第四章阅读笔记 Kafka 发送消息有三种方式:不关心结果的,同步方式,异步方式. Kafka 的异常主要有两类:一种是可重试异常,一种是无需重试异常. 生产者的配置: acks ...
- C++ Primer 第四版阅读笔记
阅读笔记 初始化 变量定义指定了变量的类型和标识符,也可以为对象提供初始值.定义时指定了初始值的对象被称为是 已初始化的.C++ 支持两种初始化变量的形式:复制初始化和 直接初始化.复制初始化语法用等 ...
随机推荐
- matplotlib Bbox类
Bbox 类是一个可变的(相对于BboxBase)限位框, 继承自BboxBase 2020-04-07 22:54:57 --Edit by yangray 方法: __init__(points ...
- springboot httpsession.getAtt....is null
1.开始怀疑是 @RequestMapping("") public String loginIndex() { return "admin/login"; } ...
- spark下载安装,运行examples(spark一)
1.官方网址 http://spark.apache.org/ image.png 2.点击下载 下载最新版本目前是(2.4.3)此spark预设为hadoop2.7或者更高版本,我前面安装的是had ...
- Loading纯JS
function showLoading() { document.getElementById("over").style.display = "block" ...
- 第一章:shell脚本初入门
1.shell脚本中的source或者.空格再加上文件,表示加载文件中的命令及语句(困惑多时终于解开^-^) 2.脚本开头书写好作者版本等信息,方便维护:流程语句提前把格式写好,防止遗漏 3.定义字符 ...
- Web三维编程入门总结之三:3D碰撞检测初探
自己动手写一个方法比分析他人的写的方法困难很多,由此而来的对程序的进一步理解也是分析别人的代码很难得到的. 一.先来几张效果图: 1.场景中有两个半径为1的球体,蓝色线段从球心出发指向球体的“正向” ...
- Juli函数
- 【转】解决存储过程执行快,但C#程序调用执行慢的问题
这两天遇到一个问题令人比较郁闷,一个大概120行左右的存储过程在SQL Server2012的查询分析器里面执行,速度非常理想,1秒不到,即可筛选抓取到大概500条数据记录.但在C#程序代码里调用,就 ...
- 怎么在执行Python脚本时,密码等敏感信息也不让它出现
前言 文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理. PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取http ...
- 中国剩余定理(CRT)
只看懂了CRT,EXCRT待补.... 心得:记不得这是第几次翻CRT了,每次都有迷迷糊糊的.. 中国剩余定理用来求解类似这样的方程组: 求解的过程中用到了同余方程. x=a1( mod x1) x= ...