AI技术内参
洪亮劼
Etsy数据科学主管，前雅虎研究院资深科学家
立即订阅
8829 人已学习
课程目录
已完结 166 讲
0/6登录后，你可以任选6讲全文学习。
开篇词 (1讲)
开篇词 | 你的360度人工智能信息助理
免费
人工智能国际顶级会议 (31讲)
001 | 聊聊2017年KDD大会的时间检验奖
002 | 精读2017年KDD最佳研究论文
003 | 精读2017年KDD最佳应用数据科学论文
004 | 精读2017年EMNLP最佳长论文之一
005 | 精读2017年EMNLP最佳长论文之二
006 | 精读2017年EMNLP最佳短论文
007 | 精读2017年ICCV最佳研究论文
008 | 精读2017年ICCV最佳学生论文
009 | 如何将“深度强化学习”应用到视觉问答系统？
010 | 精读2017年NIPS最佳研究论文之一：如何解决非凸优化问题？
011 | 精读2017年NIPS最佳研究论文之二：KSD测试如何检验两个分布的异同？
012 | 精读2017年NIPS最佳研究论文之三：如何解决非完美信息博弈问题？
013 | WSDM 2018论文精读：看谷歌团队如何做位置偏差估计
014 | WSDM 2018论文精读：看京东团队如何挖掘商品的替代信息和互补信息
015 | WSDM 2018论文精读：深度学习模型中如何使用上下文信息？
016 | The Web 2018论文精读：如何对商品的图片美感进行建模？
017 | The Web 2018论文精读：如何改进经典的推荐算法BPR？
018 | The Web 2018论文精读：如何从文本中提取高元关系？
019 | SIGIR 2018论文精读：偏差和“流行度”之间的关系
020 | SIGIR 2018论文精读：如何利用对抗学习来增强排序模型的普适性？
021 | SIGIR 2018论文精读：如何对搜索页面上的点击行为进行序列建模？
022 | CVPR 2018论文精读：如何研究计算机视觉任务之间的关系？
023 | CVPR 2018论文精读：如何从整体上对人体进行三维建模？
024 | CVPR 2018论文精读：如何解决排序学习计算复杂度高这个问题？
025 | ICML 2018论文精读：模型经得起对抗样本的攻击？这或许只是个错觉
026 | ICML 2018论文精读：聊一聊机器学习算法的“公平性”问题
027 | ICML 2018论文精读：优化目标函数的时候，有可能放大了“不公平”？
028 | ACL 2018论文精读：问答系统场景下，如何提出好问题？
029 | ACL 2018论文精读：什么是对话中的前提触发？如何检测？
030 | ACL 2018论文精读：什么是“端到端”的语义哈希？
复盘 7 | 一起来读人工智能国际顶级会议论文
搜索核心技术 (28讲)
031 | 经典搜索核心算法：TF-IDF及其变种
032 | 经典搜索核心算法：BM25及其变种（内附全年目录）
033 | 经典搜索核心算法：语言模型及其变种
034 | 机器学习排序算法：单点法排序学习
035 | 机器学习排序算法：配对法排序学习
036 | 机器学习排序算法：列表法排序学习
037 | “查询关键字理解”三部曲之分类
038 | “查询关键字理解”三部曲之解析
039 | “查询关键字理解”三部曲之扩展
040 | 搜索系统评测，有哪些基础指标？
041 | 搜索系统评测，有哪些高级指标？
042 | 如何评测搜索系统的在线表现？
043 | 文档理解第一步：文档分类
044 | 文档理解的关键步骤：文档聚类
045 | 文档理解的重要特例：多模文档建模
046 | 大型搜索框架宏观视角：发展、特点及趋势
047 | 多轮打分系统概述
048 | 搜索索引及其相关技术概述
049 | PageRank算法的核心思想是什么？
050 | 经典图算法之HITS
051 | 社区检测算法之“模块最大化 ”
052 | 机器学习排序算法经典模型：RankSVM
053 | 机器学习排序算法经典模型：GBDT
054 | 机器学习排序算法经典模型：LambdaMART
055 | 基于深度学习的搜索算法：深度结构化语义模型
056 | 基于深度学习的搜索算法：卷积结构下的隐含语义模型
057 | 基于深度学习的搜索算法：局部和分布表征下的搜索模型
复盘 1 | 搜索核心技术模块
推荐系统核心技术 (22讲)
058 | 简单推荐模型之一：基于流行度的推荐模型
059 | 简单推荐模型之二：基于相似信息的推荐模型
060 | 简单推荐模型之三：基于内容信息的推荐模型
061 | 基于隐变量的模型之一：矩阵分解
062 | 基于隐变量的模型之二：基于回归的矩阵分解
063 | 基于隐变量的模型之三：分解机
064 | 高级推荐模型之一：张量分解模型
065 | 高级推荐模型之二：协同矩阵分解
066 | 高级推荐模型之三：优化复杂目标函数
067 | 推荐的Exploit和Explore算法之一：EE算法综述
068 | 推荐的Exploit和Explore算法之二：UCB算法
069 | 推荐的Exploit和Explore算法之三：汤普森采样算法
070 | 推荐系统评测之一：传统线下评测
071 | 推荐系统评测之二：线上评测
072 | 推荐系统评测之三：无偏差估计
073 | 现代推荐架构剖析之一：基于线下离线计算的推荐架构
074 | 现代推荐架构剖析之二：基于多层搜索架构的推荐系统
075 | 现代推荐架构剖析之三：复杂现代推荐架构漫谈
076 | 基于深度学习的推荐模型之一：受限波兹曼机
077 | 基于深度学习的推荐模型之二：基于RNN的推荐系统
078 | 基于深度学习的推荐模型之三：利用深度学习来扩展推荐系统
复盘 2 | 推荐系统核心技术模块
广告系统核心技术 (18讲)
079 | 广告系统概述
080 | 广告系统架构
081 | 广告回馈预估综述
082 | Google的点击率系统模型
083 | Facebook的广告点击率预估模型
084 | 雅虎的广告点击率预估模型
085 | LinkedIn的广告点击率预估模型
086 | Twitter的广告点击率预估模型
087 | 阿里巴巴的广告点击率预估模型
088 | 什么是“基于第二价位的广告竞拍”？
089 | 广告的竞价策略是怎样的？
090 | 如何优化广告的竞价策略？
091 | 如何控制广告预算？
092 | 如何设置广告竞价的底价？
093 | 聊一聊“程序化直接购买”和“广告期货”
094 | 归因模型：如何来衡量广告的有效性
095 | 广告投放如何选择受众？如何扩展受众群？
096 | 如何利用机器学习技术来检测广告欺诈？
自然语言处理及文本处理核心技术 (0讲)
该章节暂未更新内容，敬请期待
计算机视觉核心技术 (0讲)
该章节暂未更新内容，敬请期待
数据科学家与数据科学团队养成 (0讲)
该章节暂未更新内容，敬请期待
热点话题讨论 (0讲)
该章节暂未更新内容，敬请期待
结束语 (0讲)
该章节暂未更新内容，敬请期待
AI技术内参
登录|注册
151 | 精读AlphaGo Zero论文
洪亮劼 2017-11-03
长期以来，利用人工智能技术挑战人类的一些富有智慧的项目，例如象棋、围棋、对话等等都被看做人工智能技术前进的重要参照。人工智能技术到底是不是能够带来“拟人”的思维和决策能力，在某种意义上成了衡量人工智能水平以及整个行业发展的试金石。
在这些项目中，围棋可以说是一个难度很大的项目，更是饱受关注。一方面，围棋的走棋可能性非常多，且棋局变化多端，这似乎给计算机算法带来了很大的困难。另一方面，围棋在一些国家和地区（比如中国、日本和韩国）不仅仅是一个智力竞技项目，更有一系列理念、人格等全方位的配套文化概念，使得人们对此产生怀疑，人工智能模型和算法是否能够真正学习到有价值的信息，而不仅仅是模拟人的行为。
2015 年，来自谷歌 DeepMind 团队的 AlphaGo 打败了职业二段樊麾，在这之后短短两年的时间里，该团队的人工智能技术迅猛发展，不仅以 4 比 1 击败韩国的李世石九段，更是在今年战胜了即时世界排名第一的柯杰，可谓战胜了被誉为“人类智慧皇冠”的围棋项目。
前段时间，DeepMind 团队在《自然》杂志上发表了 AlphaGo 的最新研究成果，AlphaGo Zero，这项技术更是把人工智能在围棋上的应用推向了一个新高度，可以说是利用计算机算法把围棋的棋艺发展到了一个人类之前无法想象的阶段。
今天，我就来带你认真剖析一下这篇发表在《自然》杂志上的名为《不依靠人类知识掌握围棋》（Mastering the Game of Go without Human Knowledge）的论文 。标题中的不依靠人类知识当然有一点夸张，不过这也正是这篇论文的核心思想，那就是仅用少量甚至不用人类的数据来驱动人工智能算法。在之前的很多人工智能模型和算法来看，这是一个巨大的挑战。
作者群信息介绍
文章共有 17 位作者，都来自伦敦的谷歌 DeepMind 团队。AlphaGo 的第一篇论文也是发表在《自然》杂志，当时有 20 位作者，比较起来，这篇论文的作者数目减少了。另外，虽然两篇论文的主要作者都是三名（共同贡献），但是这三个人发生了一些变化。下面，我就介绍一下本文的三个主要作者。
第一作者大卫·希尔维（David Silver）目前在 DeepMind 领导强化学习（Reinforcement Learning）的多项研究。大卫的经历很传奇，早年曾在南非生活和学习，1997 年从剑桥大学毕业后，先到一家名为 Elixir Studios 的游戏公司工作了好几年。然后到加拿大的阿尔伯塔大学（University of Alberta）学习机器学习，特别是强化学习。他当时就开始尝试开发用计算机算法来进行围棋博弈。大卫 2013 年全职加入 DeepMind，之后迅速成了 DeepMind 在强化学习，特别是深度学习和强化学习结合领域的领军人物。
第二作者朱利安·施瑞特维泽（Julian Schrittwieser）是谷歌的一名工程师，他长期对围棋、人工智能感兴趣。值得注意的是，朱利安这次成为主要作者，而在之前的第一篇文章中还只是普通贡献者，可以推断在 AlphaGo Zero 这个版本里有相当多的工程优化。
第三作者卡伦·西蒙彦（Karen Simonyan）是 DeepMind 的一名科学家，长期从事计算机视觉和人工智能技术的研究。他来自 2014 年 DeepMind 收购的一家名为 Vision Factory 的人工智能公司。卡伦最近几年的论文都有高达几千的引用量。
论文的主要贡献
首先，这篇论文的主要“卖点”就是较少利用、或者说没有利用传统意义上的数据驱动的棋局。第一篇论文里的 AlphaGo 以及后面的一些版本，都是主要利用人类的棋局作为重要的训练数据，采用监督学习（Supervised Learning）和强化学习结合的形式。在 AlphaGo Zero 这个版本里，人类的棋局被彻底放弃，而完全依靠了强化学习，从完全随机（Random）的情况开始，“进化”出了具有人类经验的各种走法的围棋策略，并且达到了非常高的竞技水平。可以说这是本篇论文的核心贡献。
取消
完成
0/1000字
划线
笔记
复制
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
该试读文章来自付费专栏《AI技术内参》，如需阅读全部文章，
请订阅文章所属专栏。
请订阅文章所属专栏。
立即订阅
登录 后留言
精选留言(3)
黄德平补充一点认识，zero中的神经网络使用卷积神经网络，这个是跟围棋本身的规则相关。具体来讲是，围棋每个地方都可以落子，而且局面上不同地方的计分规则是一样的。2018-11-29 3
范深规则明确到无一例外，可以说是强监督了。只是以前的搜索方法还没到“评价”那步，就卡死了。我觉得Zero更多是视角和工程的创新，当然也很励志。作者回复: 是的。
2017-11-03 3
崔伟协补充一点认识，zero中的神经网络使用卷积神经网络，这个是跟围棋本身的规则相关。具体来讲是，围棋每个地方都可以落子，而且局面上不同地方的计分规则是一样的。2019-12-03
收起评论