AI技术内参
洪亮劼
Etsy数据科学主管,前雅虎研究院资深科学家
立即订阅
8829 人已学习
课程目录
已完结 166 讲
0/6登录后,你可以任选6讲全文学习。
开篇词 (1讲)
开篇词 | 你的360度人工智能信息助理
免费
人工智能国际顶级会议 (31讲)
001 | 聊聊2017年KDD大会的时间检验奖
002 | 精读2017年KDD最佳研究论文
003 | 精读2017年KDD最佳应用数据科学论文
004 | 精读2017年EMNLP最佳长论文之一
005 | 精读2017年EMNLP最佳长论文之二
006 | 精读2017年EMNLP最佳短论文
007 | 精读2017年ICCV最佳研究论文
008 | 精读2017年ICCV最佳学生论文
009 | 如何将“深度强化学习”应用到视觉问答系统?
010 | 精读2017年NIPS最佳研究论文之一:如何解决非凸优化问题?
011 | 精读2017年NIPS最佳研究论文之二:KSD测试如何检验两个分布的异同?
012 | 精读2017年NIPS最佳研究论文之三:如何解决非完美信息博弈问题?
013 | WSDM 2018论文精读:看谷歌团队如何做位置偏差估计
014 | WSDM 2018论文精读:看京东团队如何挖掘商品的替代信息和互补信息
015 | WSDM 2018论文精读:深度学习模型中如何使用上下文信息?
016 | The Web 2018论文精读:如何对商品的图片美感进行建模?
017 | The Web 2018论文精读:如何改进经典的推荐算法BPR?
018 | The Web 2018论文精读:如何从文本中提取高元关系?
019 | SIGIR 2018论文精读:偏差和“流行度”之间的关系
020 | SIGIR 2018论文精读:如何利用对抗学习来增强排序模型的普适性?
021 | SIGIR 2018论文精读:如何对搜索页面上的点击行为进行序列建模?
022 | CVPR 2018论文精读:如何研究计算机视觉任务之间的关系?
023 | CVPR 2018论文精读:如何从整体上对人体进行三维建模?
024 | CVPR 2018论文精读:如何解决排序学习计算复杂度高这个问题?
025 | ICML 2018论文精读:模型经得起对抗样本的攻击?这或许只是个错觉
026 | ICML 2018论文精读:聊一聊机器学习算法的“公平性”问题
027 | ICML 2018论文精读:优化目标函数的时候,有可能放大了“不公平”?
028 | ACL 2018论文精读:问答系统场景下,如何提出好问题?
029 | ACL 2018论文精读:什么是对话中的前提触发?如何检测?
030 | ACL 2018论文精读:什么是“端到端”的语义哈希?
复盘 7 | 一起来读人工智能国际顶级会议论文
搜索核心技术 (28讲)
031 | 经典搜索核心算法:TF-IDF及其变种
032 | 经典搜索核心算法:BM25及其变种(内附全年目录)
033 | 经典搜索核心算法:语言模型及其变种
034 | 机器学习排序算法:单点法排序学习
035 | 机器学习排序算法:配对法排序学习
036 | 机器学习排序算法:列表法排序学习
037 | “查询关键字理解”三部曲之分类
038 | “查询关键字理解”三部曲之解析
039 | “查询关键字理解”三部曲之扩展
040 | 搜索系统评测,有哪些基础指标?
041 | 搜索系统评测,有哪些高级指标?
042 | 如何评测搜索系统的在线表现?
043 | 文档理解第一步:文档分类
044 | 文档理解的关键步骤:文档聚类
045 | 文档理解的重要特例:多模文档建模
046 | 大型搜索框架宏观视角:发展、特点及趋势
047 | 多轮打分系统概述
048 | 搜索索引及其相关技术概述
049 | PageRank算法的核心思想是什么?
050 | 经典图算法之HITS
051 | 社区检测算法之“模块最大化 ”
052 | 机器学习排序算法经典模型:RankSVM
053 | 机器学习排序算法经典模型:GBDT
054 | 机器学习排序算法经典模型:LambdaMART
055 | 基于深度学习的搜索算法:深度结构化语义模型
056 | 基于深度学习的搜索算法:卷积结构下的隐含语义模型
057 | 基于深度学习的搜索算法:局部和分布表征下的搜索模型
复盘 1 | 搜索核心技术模块
推荐系统核心技术 (22讲)
058 | 简单推荐模型之一:基于流行度的推荐模型
059 | 简单推荐模型之二:基于相似信息的推荐模型
060 | 简单推荐模型之三:基于内容信息的推荐模型
061 | 基于隐变量的模型之一:矩阵分解
062 | 基于隐变量的模型之二:基于回归的矩阵分解
063 | 基于隐变量的模型之三:分解机
064 | 高级推荐模型之一:张量分解模型
065 | 高级推荐模型之二:协同矩阵分解
066 | 高级推荐模型之三:优化复杂目标函数
067 | 推荐的Exploit和Explore算法之一:EE算法综述
068 | 推荐的Exploit和Explore算法之二:UCB算法
069 | 推荐的Exploit和Explore算法之三:汤普森采样算法
070 | 推荐系统评测之一:传统线下评测
071 | 推荐系统评测之二:线上评测
072 | 推荐系统评测之三:无偏差估计
073 | 现代推荐架构剖析之一:基于线下离线计算的推荐架构
074 | 现代推荐架构剖析之二:基于多层搜索架构的推荐系统
075 | 现代推荐架构剖析之三:复杂现代推荐架构漫谈
076 | 基于深度学习的推荐模型之一:受限波兹曼机
077 | 基于深度学习的推荐模型之二:基于RNN的推荐系统
078 | 基于深度学习的推荐模型之三:利用深度学习来扩展推荐系统
复盘 2 | 推荐系统核心技术模块
广告系统核心技术 (18讲)
079 | 广告系统概述
080 | 广告系统架构
081 | 广告回馈预估综述
082 | Google的点击率系统模型
083 | Facebook的广告点击率预估模型
084 | 雅虎的广告点击率预估模型
085 | LinkedIn的广告点击率预估模型
086 | Twitter的广告点击率预估模型
087 | 阿里巴巴的广告点击率预估模型
088 | 什么是“基于第二价位的广告竞拍”?
089 | 广告的竞价策略是怎样的?
090 | 如何优化广告的竞价策略?
091 | 如何控制广告预算?
092 | 如何设置广告竞价的底价?
093 | 聊一聊“程序化直接购买”和“广告期货”
094 | 归因模型:如何来衡量广告的有效性
095 | 广告投放如何选择受众?如何扩展受众群?
096 | 如何利用机器学习技术来检测广告欺诈?
自然语言处理及文本处理核心技术 (0讲)
该章节暂未更新内容,敬请期待
计算机视觉核心技术 (0讲)
该章节暂未更新内容,敬请期待
数据科学家与数据科学团队养成 (0讲)
该章节暂未更新内容,敬请期待
热点话题讨论 (0讲)
该章节暂未更新内容,敬请期待
结束语 (0讲)
该章节暂未更新内容,敬请期待
AI技术内参
登录|注册

013 | WSDM 2018论文精读:看谷歌团队如何做位置偏差估计

洪亮劼 2018-02-19
WSDM(International Conference on Web Search and Data Mining,国际搜索和数据挖掘大会)是每年举办一次的搜索、数据挖掘以及机器学习的顶级会议,其从 2008 年开始举办,已经有 11 届的历史。
尽管 WSDM 仅仅举办了 11 届,在计算机科学领域算是一个非常年轻的会议。但是,WSDM 快速积累的影响力已经使其成为了数据挖掘领域的一个顶级会议。根据谷歌学术搜索公布的数据,目前 WSDM 已经是数据挖掘领域仅次于 KDD 的学术会议,而 KDD 已经举办了 20 多年。
WSDM 的一大特点就是有大量工业界的学者参与,不管是投稿和发表论文还是评审委员会或者大会组织委员会的成员,都有很多工业界背景的人员参加。这可能也是 WSDM 备受关注的一个原因,那就是大家对于工业界研究成果的重视,同时也希望能够从中学习到最新的经验。
2018 年的 WSDM 大会于 2 月 5 日到 9 日在的美国的洛杉矶举行。今天,我们就来分享 WSDM 2018 上来自谷歌的一篇文章《无偏排序学习在个人搜索中的位置偏差估计》(Position Bias Estimation for Unbiased Learning to Rank in Personal Search)。这篇文章的核心内容是如何结合“因果推断”(Causal Inference)和排序学习(Learning to Rank)来对用户数据进行进一步无偏差的估计。

作者群信息介绍

这篇论文的所有作者都来自谷歌,我们这里对作者群做一个简单的介绍。
第一作者王选珲(Xuanhui Wang)2015 年起在谷歌工作。他之前在 Facebook 工作了三年,一直从事广告系统的开发;再往前,是在雅虎担任了两年的科学家。王选珲于 2009 年毕业于伊利诺伊大学香槟分校,获得计算机博士学位,他的博士生导师是信息检索界著名的华人学者翟成祥(Chengxiang Zhai)。
第二作者纳达夫⋅古尔班迪(Nadav Golbandi)于 2016 年加入谷歌,之前在雅虎研究院担任了 8 年的主任级研究工程师(Principal Research Engineer),一直从事搜索方面的研发工作。在雅虎研究院之前,古尔班迪在以色列的 IBM 研究院工作了 6 年。他拥有以色列理工大学的计算机硕士学位。
第三作者迈克尔⋅本德斯基(Michael Bendersky)于 2012 年加入谷歌,一直从事个人以及企业信息系统(Google Drive)的研发工作。本德斯基于 2011 年从马萨储塞州阿姆赫斯特分校(University of Massachusetts Amherst)毕业,获得计算机博士学位,他的导师是信息检索界的学术权威布鲁斯⋅夸夫特(Bruce Croft)。
第四作者唐纳德⋅梅泽尔(Donald Metzler)也是 2012 年加入谷歌的,一直负责个人以及企业信息系统(Google Drive)搜索质量的研发工作。梅泽尔曾在雅虎研究院工作过两年多,然后还在南加州大学(University of South California)担任过教职。梅泽尔是 2007 年从马萨储塞州阿姆赫斯特分校计算机博士毕业,导师也是信息检索界的学术权威布鲁斯⋅夸夫特。
文章的最后一个作者是马克⋅诺瓦克(Marc Najork)于 2014 年加入谷歌,目前担任研发总监(Research Engineering Director)的职位。诺瓦克之前在微软研究院硅谷分部工作了 13 年,再之前在 DEC 研究院工作了 8 年。诺瓦克是信息检索和互联网数据挖掘领域的学术权威,之前担任过 ACM 顶级学术期刊 ACM Transactions on the Web 的主编。他发表过很多学术文章,引用数在七千以上。

论文的主要贡献

按照我们阅读论文的方法,首先来看这篇文章的主要贡献,梳理清楚这篇文章主要解决了什么场景下的问题。
众所周知,所有的搜索系统都会有各种各样的“偏差”(Bias),如何能够更好地对这些偏差进行建模就成为了对搜索系统进行机器学习的一个重要的挑战。
一种方式就是像传统的信息检索系统一样,利用人工来获得“相关度”(Relevance)的标签,不需要通过通过人机交互来获取相关度的信息。所以,也就更谈不上估计偏差的问题。
第二种,文章中也有谈到的,那就是利用传统的“点击模型”(Click Model)。点击模型是一种专门用来同时估计相关度和偏差的概率图模型,在过去 10 年左右的时间内已经发展得相对比较成熟。文章中也提到,大多数点击模型的应用主要是提取相关度信息,而并不在乎对偏差的估计是否准确。
第三种,也是最近几年兴起的一个新的方向,那就是利用“因果推断”(Causal Inference)和排序学习的结合直接对偏差进行建模。在 WSDM 2017 的最佳论文 [1] 中,已经让我们见识了这个思路。然而,在去年的那篇文章里,并没有详细探讨这个偏差的估计和点击模型的关系。
取消
完成
0/1000字
划线
笔记
复制
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
该试读文章来自付费专栏《AI技术内参》,如需阅读全部文章,
请订阅文章所属专栏。
立即订阅
登录 后留言

精选留言(1)

  • rkq@geekbang
    从事搜索领域请问有哪些会议和期刊需要关注呢?
    2018-02-19
收起评论
1
返回
顶部