35 | 精确推断：变量消除及其拓展
王天一
该思维导图由 AI 生成，仅供参考
在前面的几讲中，我和你分享了概率图模型中的一些代表性模型，它们都属于表示（representation）的范畴，将关系通过结点和有向边精确地表示出来。接下来，我们将对概率图模型的推断任务加以介绍。
推断（inference）是利用图结构表示的联合分布来计算某个变量的概率，得到关于目标问题的数字化结论。在概率图模型中，因子分解与条件独立性这两大法宝可以大量节约概率运算，给推断问题带来简洁高效的解法。
概率图中的推断可以分为两类：精确推断和近似推断。精确推断（exact inference）是精确计算变量的概率分布，可以在结构比较简单的模型中实现；近似推断（approximate inference）则是在不影响推理正确性的前提下，通过适当降低精度来提高计算效率，适用于结点数目多、网络结构复杂的模型。在这一讲中，我们先来分析精确推断。
精确推断最基本的方法是变量消除（variable elimination），这种方法对“与待求解的条件概率无关的变量”进行边际化处理，也就是将中间变量约掉，从而计算出目标概率。变量消除的基本思想可以通过贝叶斯网络中所举的例子来解释，问题对应的贝叶斯网络如下图所示，所有的先验概率与条件概率都在图中给出。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
概率图模型中的精确推断方法是一种强大的工具，本文深入介绍了概率图模型中的精确推断方法，包括变量消除和置信传播算法。通过变量消除和置信传播算法，可以计算变量的概率分布，适用于结构简单的模型。文章还介绍了因子图的概念，以及置信传播算法在团树结构中的应用。团树结构可以保证置信传播算法的收敛性，并提升了计算效率。此外，文章还探讨了变量消除中确定消除顺序的原则，以及置信传播算法的核心概念——消息传递。通过对概率图模型的精确推断方法的深入讲解，读者可以快速了解并掌握这一重要领域的基础知识。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《机器学习 40 讲》，新⼈⾸单¥59
《机器学习 40 讲》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(2)
- 最新
- 精选
林彦请问老师“具体做法是将所有 fo=0所在行的因子乘积求和，得到联合概率 p(fo=0,lo=0,hb=1)”中是把文中表格的第4，5，6列的概率值相乘之后然后再按行(第1到4行)求和？ 我的理解是如此，还未来得及验算。谢谢。作者回复: 是的，这么做就是考虑了fo=0且lo=0且hb=1所有可能的情形。
2018-09-171
ifelse
学习打卡2023-06-21归属地：浙江
收起评论