38 | 完备数据下的参数学习:有向图与无向图
王天一
该思维导图由 AI 生成,仅供参考
介绍完表示和推断之后,我们将进入概率图模型的最后一个任务,也就是学习问题。
在推断任务中,我们会根据已知的模型来确定实例的特性,模型的结构和参数都作为输入的一部分出现。学习任务(model learning)则是将推断任务的过程颠倒过来,根据数据来构造出能够反映数据潜在规律的模型,也就是对概率图模型的训练。
概率图模型的学习和其他的机器学习一样,都属于自动化的建模方式。构造概率图模型的依据是变量之间的依赖关系,这些依赖关系的建立则需要仰赖垂直领域的先验知识。如果用纯人工的方式来构建概率图模型,那么在网络的节点数目较多、规模较大时,其工作量将是惊人的。将学习任务引入概率图模型之中,就可以基于结构化的数据高效地计算出网络的结构与参数,从而大大简化训练的流程。
根据学习对象的不同,学习任务可以大体分为参数学习和结构学习两类。
参数学习(parameter learning)是在已知图模型结构的前提下估计其参数,也就是节点之间的条件概率,这可以看成是个数值优化问题。
结构学习(structure learning)是在图模型完全未知的情况下先确定其结构,再根据结构来计算参数。结构学习可以看成是针对结构和参数的联合优化,可以存在单一的全局最优解。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
概率图模型参数学习是模型训练的关键环节,涉及贝叶斯网络和马尔可夫随机场的参数估计和结构确定。贝叶斯网络的参数学习可通过最大似然估计和最大后验估计实现,利用全局分解简化参数估计的运算;而马尔可夫随机场的参数学习需要考虑划分函数的影响,通过迭代比例拟合方法找到全局最优解。此外,近似推理和目标函数替换可用于简化马尔可夫随机场的参数学习。文章还提到了不完备数据基础上的参数学习和EM算法的应用。这些内容为读者提供了深入了解概率图模型参数学习任务的重要概念和技术细节。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《机器学习 40 讲》,新⼈⾸单¥59
《机器学习 40 讲》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(1)
- 最新
- 精选
- ifelse学习打卡2023-06-24归属地:浙江11
收起评论