AI技术内参
洪亮劼
Etsy数据科学主管，前雅虎研究院资深科学家
立即订阅
8829 人已学习
课程目录
已完结 166 讲
0/6登录后，你可以任选6讲全文学习。
开篇词 (1讲)
开篇词 | 你的360度人工智能信息助理
免费
人工智能国际顶级会议 (31讲)
001 | 聊聊2017年KDD大会的时间检验奖
002 | 精读2017年KDD最佳研究论文
003 | 精读2017年KDD最佳应用数据科学论文
004 | 精读2017年EMNLP最佳长论文之一
005 | 精读2017年EMNLP最佳长论文之二
006 | 精读2017年EMNLP最佳短论文
007 | 精读2017年ICCV最佳研究论文
008 | 精读2017年ICCV最佳学生论文
009 | 如何将“深度强化学习”应用到视觉问答系统？
010 | 精读2017年NIPS最佳研究论文之一：如何解决非凸优化问题？
011 | 精读2017年NIPS最佳研究论文之二：KSD测试如何检验两个分布的异同？
012 | 精读2017年NIPS最佳研究论文之三：如何解决非完美信息博弈问题？
013 | WSDM 2018论文精读：看谷歌团队如何做位置偏差估计
014 | WSDM 2018论文精读：看京东团队如何挖掘商品的替代信息和互补信息
015 | WSDM 2018论文精读：深度学习模型中如何使用上下文信息？
016 | The Web 2018论文精读：如何对商品的图片美感进行建模？
017 | The Web 2018论文精读：如何改进经典的推荐算法BPR？
018 | The Web 2018论文精读：如何从文本中提取高元关系？
019 | SIGIR 2018论文精读：偏差和“流行度”之间的关系
020 | SIGIR 2018论文精读：如何利用对抗学习来增强排序模型的普适性？
021 | SIGIR 2018论文精读：如何对搜索页面上的点击行为进行序列建模？
022 | CVPR 2018论文精读：如何研究计算机视觉任务之间的关系？
023 | CVPR 2018论文精读：如何从整体上对人体进行三维建模？
024 | CVPR 2018论文精读：如何解决排序学习计算复杂度高这个问题？
025 | ICML 2018论文精读：模型经得起对抗样本的攻击？这或许只是个错觉
026 | ICML 2018论文精读：聊一聊机器学习算法的“公平性”问题
027 | ICML 2018论文精读：优化目标函数的时候，有可能放大了“不公平”？
028 | ACL 2018论文精读：问答系统场景下，如何提出好问题？
029 | ACL 2018论文精读：什么是对话中的前提触发？如何检测？
030 | ACL 2018论文精读：什么是“端到端”的语义哈希？
复盘 7 | 一起来读人工智能国际顶级会议论文
搜索核心技术 (28讲)
031 | 经典搜索核心算法：TF-IDF及其变种
032 | 经典搜索核心算法：BM25及其变种（内附全年目录）
033 | 经典搜索核心算法：语言模型及其变种
034 | 机器学习排序算法：单点法排序学习
035 | 机器学习排序算法：配对法排序学习
036 | 机器学习排序算法：列表法排序学习
037 | “查询关键字理解”三部曲之分类
038 | “查询关键字理解”三部曲之解析
039 | “查询关键字理解”三部曲之扩展
040 | 搜索系统评测，有哪些基础指标？
041 | 搜索系统评测，有哪些高级指标？
042 | 如何评测搜索系统的在线表现？
043 | 文档理解第一步：文档分类
044 | 文档理解的关键步骤：文档聚类
045 | 文档理解的重要特例：多模文档建模
046 | 大型搜索框架宏观视角：发展、特点及趋势
047 | 多轮打分系统概述
048 | 搜索索引及其相关技术概述
049 | PageRank算法的核心思想是什么？
050 | 经典图算法之HITS
051 | 社区检测算法之“模块最大化 ”
052 | 机器学习排序算法经典模型：RankSVM
053 | 机器学习排序算法经典模型：GBDT
054 | 机器学习排序算法经典模型：LambdaMART
055 | 基于深度学习的搜索算法：深度结构化语义模型
056 | 基于深度学习的搜索算法：卷积结构下的隐含语义模型
057 | 基于深度学习的搜索算法：局部和分布表征下的搜索模型
复盘 1 | 搜索核心技术模块
推荐系统核心技术 (22讲)
058 | 简单推荐模型之一：基于流行度的推荐模型
059 | 简单推荐模型之二：基于相似信息的推荐模型
060 | 简单推荐模型之三：基于内容信息的推荐模型
061 | 基于隐变量的模型之一：矩阵分解
062 | 基于隐变量的模型之二：基于回归的矩阵分解
063 | 基于隐变量的模型之三：分解机
064 | 高级推荐模型之一：张量分解模型
065 | 高级推荐模型之二：协同矩阵分解
066 | 高级推荐模型之三：优化复杂目标函数
067 | 推荐的Exploit和Explore算法之一：EE算法综述
068 | 推荐的Exploit和Explore算法之二：UCB算法
069 | 推荐的Exploit和Explore算法之三：汤普森采样算法
070 | 推荐系统评测之一：传统线下评测
071 | 推荐系统评测之二：线上评测
072 | 推荐系统评测之三：无偏差估计
073 | 现代推荐架构剖析之一：基于线下离线计算的推荐架构
074 | 现代推荐架构剖析之二：基于多层搜索架构的推荐系统
075 | 现代推荐架构剖析之三：复杂现代推荐架构漫谈
076 | 基于深度学习的推荐模型之一：受限波兹曼机
077 | 基于深度学习的推荐模型之二：基于RNN的推荐系统
078 | 基于深度学习的推荐模型之三：利用深度学习来扩展推荐系统
复盘 2 | 推荐系统核心技术模块
广告系统核心技术 (18讲)
079 | 广告系统概述
080 | 广告系统架构
081 | 广告回馈预估综述
082 | Google的点击率系统模型
083 | Facebook的广告点击率预估模型
084 | 雅虎的广告点击率预估模型
085 | LinkedIn的广告点击率预估模型
086 | Twitter的广告点击率预估模型
087 | 阿里巴巴的广告点击率预估模型
088 | 什么是“基于第二价位的广告竞拍”？
089 | 广告的竞价策略是怎样的？
090 | 如何优化广告的竞价策略？
091 | 如何控制广告预算？
092 | 如何设置广告竞价的底价？
093 | 聊一聊“程序化直接购买”和“广告期货”
094 | 归因模型：如何来衡量广告的有效性
095 | 广告投放如何选择受众？如何扩展受众群？
096 | 如何利用机器学习技术来检测广告欺诈？
自然语言处理及文本处理核心技术 (0讲)
该章节暂未更新内容，敬请期待
计算机视觉核心技术 (0讲)
该章节暂未更新内容，敬请期待
数据科学家与数据科学团队养成 (0讲)
该章节暂未更新内容，敬请期待
热点话题讨论 (0讲)
该章节暂未更新内容，敬请期待
结束语 (0讲)
该章节暂未更新内容，敬请期待
AI技术内参
登录|注册
097 | LDA模型的前世今生
洪亮劼 2017-10-18
在文本挖掘中，有一项重要的工作就是分析和挖掘出文本中隐含的结构信息，而不依赖任何提前标注的信息。今天我要介绍的是一个叫做 LDA（Latent Dirichlet Allocation）的模型，它在过去十年里开启了一个领域叫主题模型。
从 LDA 提出后，不少学者都利用它来分析各式各样的文档数据，从新闻数据到医药文档，从考古文献到政府公文。一段时间内，LDA 成了分析文本信息的标准工具。从最原始的 LDA 发展出来的各类模型变种，则被应用到了多种数据类型上，包括图像、音频、混合信息、推荐系统、文档检索等等，各类主题模型变种层出不穷。下面我来简单剖析一下 LDA 这个模型，聊聊它的模型描述以及训练方法等基础知识。
LDA 的背景介绍
LDA 的论文作者是戴维·布雷（David Blei）、吴恩达和迈克尔·乔丹（Michael Jordan）。这三位都是今天机器学习界炙手可热的人物。论文最早发表在 2002 年的神经信息处理系统大会（Neural Information Processing Systems，简称 NIPS）上，然后长文章（Long Paper）于 2003 年在机器学习顶级期刊《机器学习研究杂志》（Journal of Machine Learning Research）上发表。迄今为止，这篇论文已经有超过 1 万 9 千次的引用数，也成了机器学习史上的重要文献之一。
论文发表的时候，戴维·布雷还在加州大学伯克利分校迈克尔手下攻读博士。吴恩达当时刚刚从迈克尔手下博士毕业来到斯坦福大学任教。戴维 2004 年从伯克利毕业后，先到卡内基梅隆大学跟随统计学权威教授约翰·拉弗蒂（John Lafferty）做了两年的博士后学者，然后又到东部普林斯顿大学任教职，先后担任助理教授和副教授。2014 年转到纽约哥伦比亚大学任统计系和计算机系的正教授。戴维在 2010 年获得斯隆奖（Alfred P. Sloan Fellowship，美国声誉极高的奖励研究人员的奖项，不少诺贝尔奖获得者均在获得诺贝尔奖多年之前获得过此奖），紧接着又在 2011 年获得总统青年科学家和工程师早期成就奖（Presidential Early Career Award for Scientists and Engineers，简称 PECASE）。目前他所有论文的引用数超过了 4 万 9 千次 。
吴恩达在斯坦福晋升到副教授后，2011 年到 2012 年在 Google 工作，开启了谷歌大脑（Google Brain）的项目来训练大规模的深度学习模型，是深度学习的重要人物和推动者之一。2012 年他合作创建了在线学习平台 Coursera，可以说是打开了慕课（Massive Open Online Course，简称 MOOC）运动的大门。之后吴恩达从 2014 年到 2017 年间担任百度首席科学家，并创建和运行了百度在北美的研究机构。目前他所有论文的引用数超过 8 万 3 千次。
文章的第三作者迈克尔·乔丹是机器学习界的泰斗人物。他自 1998 年在加州大学伯克利任教至今，是美国三个科学院院士（American Academy of Arts and Sciences、National Academy of Engineering 以及 National Academy of Sciences），是诸多学术和专业组织的院士（比如 ACM、IEEE、AAAI、SIAM 等）。迈克尔可以说是桃李满天下，而且其徒子徒孙也已经遍布整个机器学习领域，不少都是学术权威。他的所有论文有多达 12 万次以上的引用量。
值得注意的是，对于三位作者来说，LDA 论文都是他们单篇论文引用次数最多的文章。
LDA 模型
要描述 LDA 模型，就要说一下 LDA 模型所属的产生式模型（Generative Model）的背景。产生式模型是相对于判别式模型（Discriminative Model）而说的。这里，我们假设需要建模的数据有特征信息，也就是通常说的 X，以及标签信息，也就是通常所说的 Y。
判别式模型常常直接对 Y 的产生过程（Generative Process) 进行描述，而对特征信息本身不予建模。这使得判别式模型天生就成为构建分类器或者回归分析的有利工具。而产生式模型则要同时对 X 和 Y 建模，这使得产生式模型更适合做无标签的数据分析，比如聚类。当然，因为产生式模型要对比较多的信息进行建模，所以一般认为对于同一个数据而言，产生式模型要比判别式模型更难以学习。
一般来说，产生式模型希望通过一个产生过程来帮助读者理解一个模型。注意，这个产生过程本质是描述一个联合概率分布（Joint Distribution）的分解过程。也就是说，这个过程是一个虚拟过程，真实的数据往往并不是这样产生的。这样的产生过程是模型的一个假设，一种描述。任何一个产生过程都可以在数学上完全等价一个联合概率分布。
LDA 的产生过程描述了文档以及文档中文字的生成过程。在原始的 LDA 论文中，作者们描述了对于每一个文档而言有这么一种生成过程：
取消
完成
0/1000字
划线
笔记
复制
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
该试读文章来自付费专栏《AI技术内参》，如需阅读全部文章，
请订阅文章所属专栏。
请订阅文章所属专栏。
立即订阅
登录 后留言
精选留言(7)
陈俊对于非统计学或cs专业的同学，上一期和这一期似乎有点深奥。但是还是十分感谢老师的辛苦付出！2017-10-24 3
沉如果能在文中给出一些可以详细参考的资料就更好了～2017-10-19 2
兔子ORZ有监督的LDA比较好的形式就是LLDA，在plate notation上的theta上再加上一个观察变量表示主题标签，而这个观察变量也是基于狄利克雷超参的2018-04-14 1
unicornmm希望能够给出每篇文章的链接，非常感谢老师的讲解2018-01-01 1
昉长期基础研究，和短期工程实现本质上有传统的。有种可能性，就是给研究团队配备专门的专门转化和monetization团队，相互配合，各司其职。2019-07-02
潜行希望老师给文章链接，另外提到很多统计学的知识，还看不懂。。得好好消化2018-08-28
惜心（伟祺）文章后的问题一段属于同一主题 是不是可以在生成这段字时候公用生成主题的theta参数值 就相当于同一段落同一主题了2018-03-27
收起评论