机器学习 40 讲
王天一
工学博士,副教授
35375 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 46 讲
机器学习 40 讲
15
15
1.0x
00:00/00:00
登录|注册

22 | 自适应的基函数:神经网络

早停
权重衰减
超参数处理
拉普拉斯近似
参数先验分布
正则化
交叉熵
参数更新方式
感知准则
调整分类边界
初始参数
贝叶斯分析
参数优化
隐藏层
非线性处理
数学表达式
学习过程
作用
胶囊网络
多层感知器(神经网络)
感知器
人工神经网络

该思维导图由 AI 生成,仅供参考

回眸人工神经网络的前半生,不由得让人唏嘘造化弄人。出道即巅峰的它经历了短暂的辉煌之后便以惊人的速度陨落,几乎沦落到人人喊打的境地。可谁曾想三十年河东三十年河西,一位天才的出现让神经网络起死回生,众人的态度也迅速从避之不及变成趋之若鹜。如果人工神经网络果真有一天如人所愿实现了智能,不知它会对自己的命运作何评价。
人工神经网络(artificial neural network)是对生物神经网络的模拟,意在通过结构的复制实现功能的复制。但人类神经系统在百万年进化中留下的智能密码并没有那么容易破解,因而神经网络最终也难以跳出统计模型的窠臼,成为线性模型大家族的又一位成员。
感知器示意图(图片来自 Machine Learning: an Algorithmic Perspective, 图 3.1)
人工神经网络的祖师爷是感知器(perceptron),其作用是根据输入数据的属性对它进行二分类。当偏置 时,感知器计算输入属性的线性组合 ,所有参数 共通构成分类边界的法向量 。求出的线性组合接下来被送入激活函数(activation function)中计算结果。感知器的激活函数是符号函数,其输出的二元结果就表示了两种不同的类别。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

本文介绍了人工神经网络的基本原理和应用。首先介绍了神经网络的起源——感知器,以及其学习过程和动态学习能力。随后,文章介绍了多层感知器,即神经网络,其具有隐藏层的引入,能够自适应地提取并修正特征,从而适配到数据中潜在存在的模式。在解决分类问题时,神经网络的参数优化依赖于对交叉熵的最小化。此外,还介绍了神经网络中的正则化策略,如权重衰减和早停。文章还提到了神经网络的贝叶斯分析,以及神经网络的非参数模型特点和隐藏层的重要作用。最后,文章提到了神经网络的发展趋势,介绍了胶囊网络的概念及其对神经网络发展的意义。整体而言,本文深入浅出地介绍了人工神经网络的基本原理和相关技术特点,对于想要了解神经网络的读者具有很高的参考价值。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《机器学习 40 讲》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(8)

  • 最新
  • 精选
  • 杨森
    我虽然难以理解清晰,但是这种方式我是喜欢的,已经不再是基础课了,目的是打通任督二脉。必须到一定难度才能触及到本质。一篇文章看一天我觉得不为过,不懂的名词需要慢慢查询学习了解。希望能度过难关,柳暗花明。

    作者回复: 是的,不能一直都在基础课转悠。如果看不懂细节可以先理解思想方法,搞清楚模型的思想原理,融会贯通之后再来深入细节。

    2018-07-30
    3
  • zhoujie
    一位天才的出现这里天才是指的谁?Hilton吗?

    作者回复: 是的

    2018-09-05
    1
  • 风的轨迹
    老师我想问一个问题: “在用于分类的神经网络中,先验假设就是参数 ww 的概率分布,这个分布通常被处理成零均值的高斯分布。” 确实我们在进行神经网络的参数初始化的时候一般都是用高斯分布,但是为什么必须用高斯分布而不能用别的分布呢?

    作者回复: 我觉得主要是在取值范围,高斯分布的取值基本在(-3, 3)范围内,在这个区间里sigmoid函数变化比较剧烈。

    2019-03-14
  • zhoujie
    关于深度学习,除了那本圣经之外还有其他书籍推荐吗

    作者回复: Francois Collet的Deep Learning with Python据说不错,但我没读过

    2018-09-05
  • 吕胜
    麻烦老师增加一些直观的解释
    2018-07-25
    2
  • 吴常亮
    越来越看不懂了,还是需要老师深入浅出的讲解下去
    2018-07-25
    1
  • ifelse
    学习打卡
    2023-06-07归属地:浙江
  • Python
    WC,看到今天终于懂老师写的专栏文章牛逼的地方了,之前看的懵懵懂懂,现在算有点前后融汇的感觉了
    2019-01-27
收起评论
显示
设置
留言
8
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部