机器学习 40 讲
王天一
工学博士,副教授
35376 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 46 讲
机器学习 40 讲
15
15
1.0x
00:00/00:00
登录|注册

38 | 完备数据下的参数学习:有向图与无向图

最大间隔函数
对比散度
伪似然函数
抽样近似推理
传播近似推理
马尔可夫随机场的参数学习可以通过近似推理和目标函数替换加以简化
马尔可夫随机场的参数学习不能分解
贝叶斯网络的参数学习可以由整体分解为局部
在已知模型结构的前提下估计其参数
目标函数
近似推理
在给定经验边际的条件下求解未知的势函数
经验边际函数计算势函数
划分成不同的团
可分解的马尔可夫随机场
从局部到整体的方式求解
先给每个参数设定先验分布
基于朴素贝叶斯图结构的全局分解
简化参数估计的运算
根据结构计算参数
在图模型完全未知情况下确定结构
可看成数值优化问题
已知图模型结构下估计参数
参数学习的任务
近似推理和目标函数替换
迭代比例拟合
弦图结构的马尔可夫随机场
利用划分函数是关于待估计参数的凸函数
乘积式中的每个因子改写为对数线性的形式
最大后验估计
朴素贝叶斯分类器
似然概率的全局分解
从频率主义出发,基于似然概率最大化实现参数估计
利用完全观测的数据估计贝叶斯网络的参数
结构学习
参数学习
自动化的建模方式
对概率图模型的训练
根据数据构造能反映数据潜在规律的模型
模型结构和参数作为输入的一部分
根据已知模型确定实例特性
总结
马尔可夫随机场的参数学习
参数学习问题
学习任务分类
学习任务
推断任务
参数学习任务

该思维导图由 AI 生成,仅供参考

介绍完表示和推断之后,我们将进入概率图模型的最后一个任务,也就是学习问题。
在推断任务中,我们会根据已知的模型来确定实例的特性,模型的结构和参数都作为输入的一部分出现。学习任务(model learning)则是将推断任务的过程颠倒过来,根据数据来构造出能够反映数据潜在规律的模型,也就是对概率图模型的训练。
概率图模型的学习和其他的机器学习一样,都属于自动化的建模方式。构造概率图模型的依据是变量之间的依赖关系,这些依赖关系的建立则需要仰赖垂直领域的先验知识。如果用纯人工的方式来构建概率图模型,那么在网络的节点数目较多、规模较大时,其工作量将是惊人的。将学习任务引入概率图模型之中,就可以基于结构化的数据高效地计算出网络的结构与参数,从而大大简化训练的流程。
根据学习对象的不同,学习任务可以大体分为参数学习结构学习两类。
参数学习(parameter learning)是在已知图模型结构的前提下估计其参数,也就是节点之间的条件概率,这可以看成是个数值优化问题。
结构学习(structure learning)是在图模型完全未知的情况下先确定其结构,再根据结构来计算参数。结构学习可以看成是针对结构和参数的联合优化,可以存在单一的全局最优解。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

概率图模型参数学习是模型训练的关键环节,涉及贝叶斯网络和马尔可夫随机场的参数估计和结构确定。贝叶斯网络的参数学习可通过最大似然估计和最大后验估计实现,利用全局分解简化参数估计的运算;而马尔可夫随机场的参数学习需要考虑划分函数的影响,通过迭代比例拟合方法找到全局最优解。此外,近似推理和目标函数替换可用于简化马尔可夫随机场的参数学习。文章还提到了不完备数据基础上的参数学习和EM算法的应用。这些内容为读者提供了深入了解概率图模型参数学习任务的重要概念和技术细节。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《机器学习 40 讲》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(1)

  • 最新
  • 精选
  • ifelse
    学习打卡
    2023-06-24归属地:浙江
    1
    1
收起评论
显示
设置
留言
1
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部