人工智能基础课
王天一
工学博士,副教授
58937 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 59 讲
开篇词 (1讲)
人工智能基础课
15
15
1.0x
00:00/00:00
登录|注册

33 深度学习之外的人工智能 | 一图胜千言:概率图模型

能否结合共同发挥作用
各自优势互补
联合概率分布需要归一化
联合概率分布表达为一系列势函数的乘积
允许循环依赖
无法表示推理关系
表示随机变量之间的相互作用
无向图
节省运算和存储空间
有向边表示因果关系
自顶向下的推理
由果溯因的诊断
条件独立性
表示随机变量之间的依赖关系
有向无环图
表示-推断-学习的问题解决框架
用图论表现随机变量之间的条件依赖关系的建模方法
概率论与图论的结合
贝叶斯网络和马尔可夫随机场的结合
马尔可夫随机场
贝叶斯网络
概率图模型

该思维导图由 AI 生成,仅供参考

在前面两个模块中,我和你分享了神经网络和深度学习的知识。神经网络是理解深度表征的模型,深度学习是训练深度神经网络的算法,两者是一脉相承的关系。本质上讲,神经网络和深度学习都是由数据驱动的,大量有标记的训练样本是复杂模型取得良好性能的前提,这也解释了为什么直到近年来深度学习才得以蓬勃发展
但深度学习远非实现人工智能的唯一途径,在接下来的四篇文章中,就让我和你聊一聊深度学习之外的人工智能。
早年间的人工智能赖以实现的基础是逻辑学,但逻辑学适用的是理想化的,不存在任何不确定性的世界。可遗憾的是,真实世界是由随机性和误差主宰的,在这光怪陆离的环境中,纯粹的数理逻辑就如同古板的老夫子一般与周遭格格不入。
可即使抛开噪声与干扰不论,很多问题也没有固定的解。在医学上,即使子女的基因和母亲的基因已经确定,父亲的基因也可以有多种可能。要解决这类不确定性推理的问题,就必须借助概率论的方法。而将概率方法与图论结合起来,得到的就是今天的主题:概率图模型
概率图模型(probabilistic graphical model)也叫结构化概率模型,是用图论表现随机变量之间的条件依赖关系的建模方法。典型的概率图模型包括贝叶斯网络马尔可夫随机场,分别对应着有向图模型和无向图模型。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

概率图模型是一种结合概率论与图论的建模方法,用于表现随机变量之间的条件依赖关系。其中,贝叶斯网络和马尔可夫随机场是两种典型代表。贝叶斯网络以有向无环图表示随机变量之间的条件依赖关系,利用条件独立性简化联合概率分布的计算,具有因果推断和数据生成模型的作用。而马尔可夫随机场则以无向图表示随机变量之间的相互作用,能够表示循环依赖,但无法进行因果推断。这两种模型体现了“表示-推断-学习”的问题解决框架。概率图模型为处理不确定性推理问题提供了一种有效的方法。贝叶斯网络的构建需要特定领域知识,而马尔可夫随机场则不受环路结构限制,能够表示循环依赖。无论是贝叶斯网络还是马尔可夫随机场,它们都属于结构化的概率模型,提供了将概率模型的结构可视化的简单方式。这两种模型各有优势,是否能够结合起来,各自避短扬长,共同发挥作用,值得进一步探讨。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《人工智能基础课》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(4)

  • 最新
  • 精选
  • 林彦
    网上看到有文章提到“一个马尔可夫随机场可以作为整体成为一个更大的贝叶斯网络的节点,又或者,多个贝叶斯网络可以通过马尔可夫随机场联系起来。这种混合型的模型提供了更丰富的表达结构,同时也会给模型的推断和估计带来新的挑战。 ” “图框架可以用一种相容的方式,扩展为同时包含有向链接和无向链接的图。这种图被称为链图(chain graphs)(Lauritzen and Wermuth, 1989; Frydenberg, 1990),将有向图和无向图都当成了具体的实例。” 一个具体应用中“先对遥感影像进行过分割,然后把从影像中所提取到区域、边界、顶点、语义特征及特征之间的关系分成无向与有向两种形式,再用马尔可夫随机场对邻域像素标号的空间相互影响等无向关系进行建模,利用贝叶斯网络对边界的两边一般不属于同类、顶点是二条或多条边界的交叉点等有向关系进行建模,以克服单层马尔可夫随机场不便描述有向关系的缺点,最后借鉴气象领域中数据同化的思想综合马尔可夫随机场与贝叶斯网络,从而改善分割效果。”

    作者回复: 其实结合很简单,无非就是用马尔可夫随机场构成贝叶斯网络,或者反其道而行。主要的问题是如何应用两者的特点。MRF对结构的表示能力更强,因而可以用来描述变量之间的关系,而BN对概率的表示能力更强,因而可以用来计算。这是我的一个猜想。

    2018-02-27
    3
  • 徐凌
    王老师,之前看新闻卡内基大学开发的德州扑克机器人用的办法不是机器学习。是不是用的是这种贝叶斯网络办法做出来的人工智能呢?您觉得未来是否还应该是机器学习最有前景呢?有没有可能机器学习和不同的其他人工智能实现办法能够整合在一起呢?

    作者回复: 我看新闻上说Libertus用的不是深度学习,机器学习还是要用的。机器学习是目前人工智能的主流技术,而且短时间内这个地位还不会受到挑战。整合是必然的,但更有可能的方式是逻辑推理这些融入到机器学习的框架下。

    2018-02-23
    1
  • 杨家荣
    极客时间 21天打卡行动 31/21 <<人工智能基础课33>> 概率图模型 回答老师问题: 作为两种不同的模型,贝叶斯网络和马尔可夫随机场各有优势。那么它们能不能结合起来,各自避短扬长,共同发挥作用呢? 这个我好像没遇到过,我记得用图数据库做过关系图谱。 今日所学: 1,经网络和深度学习都是由数据驱动的,大量有标记的训练样本是复杂模型取得良好性能的前提,这也解释了为什么直到近年来深度学习才得以蓬勃发展。 2,概率图模型(probabilistic graphical model)也叫结构化概率模型,是用图论表现随机变量之间的条件依赖关系的建模方法。典型的概率图模型包括贝叶斯网络和马尔可夫随机场,分别对应着有向图模型和无向图模型。 3,贝叶斯网络(Bayesian network)的拓扑结构是有向无环图 4,贝叶斯网络的作用是表示出随机变量之间的条件依赖关系,将多个随机变量的联合概率分布分解为条件概率因子乘积的形式 5,朴素贝叶斯分类的基础假设是不同的属性之间条件独立,因此类条件概率可以表示成属性条件概率的乘积。但在绝大多数情形下,这个假设是不成立的。将属性之间的依赖关系纳入后,得到的就是通用的贝叶斯网络。 6,贝叶斯网络的每个顶点只取决于有箭头指向它的其他顶点,而与没有箭头指向它的其他顶点条件独立; 7,能够根据各变量之间的条件依赖性,利用局部分布来求得所有随机变量的联合分布。 8,将贝叶斯网络的有向边替换为无向边,得到的就是马尔可夫随机场。马尔可夫随机场(Markov random field)属于无向图模型,它的每个顶点表示一个随机变量,每条边则表示随机变量之间的依赖关系; 9,马尔可夫随机场侧重于表示随机变量之间的相互作用; 10,概率模型三步框架:表示,推断,学习; 重点: 11,概率图模型是概率论与图论的结合,是用图论表现随机变量之间的条件依赖关系的建模方法; 12,贝叶斯网络是有向无环图,侧重于表示随机变量之间的依赖关系; 13,马尔可夫随机场是无向图,侧重于表示随机变量之间的相互作用; 14,概率图模型体现了“表示 - 推断 - 学习”的问题解决框架。
    2020-01-17
    2
  • ifelse
    学习打卡
    2023-05-15归属地:浙江
    1
收起评论
显示
设置
留言
4
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部