35 | 精确推断:变量消除及其拓展
王天一
该思维导图由 AI 生成,仅供参考
在前面的几讲中,我和你分享了概率图模型中的一些代表性模型,它们都属于表示(representation)的范畴,将关系通过结点和有向边精确地表示出来。接下来,我们将对概率图模型的推断任务加以介绍。
推断(inference)是利用图结构表示的联合分布来计算某个变量的概率,得到关于目标问题的数字化结论。在概率图模型中,因子分解与条件独立性这两大法宝可以大量节约概率运算,给推断问题带来简洁高效的解法。
概率图中的推断可以分为两类:精确推断和近似推断。精确推断(exact inference)是精确计算变量的概率分布,可以在结构比较简单的模型中实现;近似推断(approximate inference)则是在不影响推理正确性的前提下,通过适当降低精度来提高计算效率,适用于结点数目多、网络结构复杂的模型。在这一讲中,我们先来分析精确推断。
精确推断最基本的方法是变量消除(variable elimination),这种方法对“与待求解的条件概率无关的变量”进行边际化处理,也就是将中间变量约掉,从而计算出目标概率。变量消除的基本思想可以通过贝叶斯网络中所举的例子来解释,问题对应的贝叶斯网络如下图所示,所有的先验概率与条件概率都在图中给出。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
概率图模型中的精确推断方法是一种强大的工具,本文深入介绍了概率图模型中的精确推断方法,包括变量消除和置信传播算法。通过变量消除和置信传播算法,可以计算变量的概率分布,适用于结构简单的模型。文章还介绍了因子图的概念,以及置信传播算法在团树结构中的应用。团树结构可以保证置信传播算法的收敛性,并提升了计算效率。此外,文章还探讨了变量消除中确定消除顺序的原则,以及置信传播算法的核心概念——消息传递。通过对概率图模型的精确推断方法的深入讲解,读者可以快速了解并掌握这一重要领域的基础知识。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《机器学习 40 讲》,新⼈⾸单¥59
《机器学习 40 讲》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(2)
- 最新
- 精选
- 林彦请问老师“具体做法是将所有 fo=0所在行的因子乘积求和,得到联合概率 p(fo=0,lo=0,hb=1)”中是把文中表格的第4,5,6列的概率值相乘之后然后再按行(第1到4行)求和? 我的理解是如此,还未来得及验算。谢谢。
作者回复: 是的,这么做就是考虑了fo=0且lo=0且hb=1所有可能的情形。
2018-09-171 - ifelse学习打卡2023-06-21归属地:浙江
收起评论