22 | 自适应的基函数:神经网络
王天一
该思维导图由 AI 生成,仅供参考
回眸人工神经网络的前半生,不由得让人唏嘘造化弄人。出道即巅峰的它经历了短暂的辉煌之后便以惊人的速度陨落,几乎沦落到人人喊打的境地。可谁曾想三十年河东三十年河西,一位天才的出现让神经网络起死回生,众人的态度也迅速从避之不及变成趋之若鹜。如果人工神经网络果真有一天如人所愿实现了智能,不知它会对自己的命运作何评价。
人工神经网络(artificial neural network)是对生物神经网络的模拟,意在通过结构的复制实现功能的复制。但人类神经系统在百万年进化中留下的智能密码并没有那么容易破解,因而神经网络最终也难以跳出统计模型的窠臼,成为线性模型大家族的又一位成员。
感知器示意图(图片来自 Machine Learning: an Algorithmic Perspective, 图 3.1)
人工神经网络的祖师爷是感知器(perceptron),其作用是根据输入数据的属性对它进行二分类。当偏置 时,感知器计算输入属性的线性组合 ,所有参数 共通构成分类边界的法向量 。求出的线性组合接下来被送入激活函数(activation function)中计算结果。感知器的激活函数是符号函数,其输出的二元结果就表示了两种不同的类别。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
本文介绍了人工神经网络的基本原理和应用。首先介绍了神经网络的起源——感知器,以及其学习过程和动态学习能力。随后,文章介绍了多层感知器,即神经网络,其具有隐藏层的引入,能够自适应地提取并修正特征,从而适配到数据中潜在存在的模式。在解决分类问题时,神经网络的参数优化依赖于对交叉熵的最小化。此外,还介绍了神经网络中的正则化策略,如权重衰减和早停。文章还提到了神经网络的贝叶斯分析,以及神经网络的非参数模型特点和隐藏层的重要作用。最后,文章提到了神经网络的发展趋势,介绍了胶囊网络的概念及其对神经网络发展的意义。整体而言,本文深入浅出地介绍了人工神经网络的基本原理和相关技术特点,对于想要了解神经网络的读者具有很高的参考价值。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《机器学习 40 讲》,新⼈⾸单¥59
《机器学习 40 讲》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(8)
- 最新
- 精选
- 杨森我虽然难以理解清晰,但是这种方式我是喜欢的,已经不再是基础课了,目的是打通任督二脉。必须到一定难度才能触及到本质。一篇文章看一天我觉得不为过,不懂的名词需要慢慢查询学习了解。希望能度过难关,柳暗花明。
作者回复: 是的,不能一直都在基础课转悠。如果看不懂细节可以先理解思想方法,搞清楚模型的思想原理,融会贯通之后再来深入细节。
2018-07-303 - zhoujie一位天才的出现这里天才是指的谁?Hilton吗?
作者回复: 是的
2018-09-051 - 风的轨迹老师我想问一个问题: “在用于分类的神经网络中,先验假设就是参数 ww 的概率分布,这个分布通常被处理成零均值的高斯分布。” 确实我们在进行神经网络的参数初始化的时候一般都是用高斯分布,但是为什么必须用高斯分布而不能用别的分布呢?
作者回复: 我觉得主要是在取值范围,高斯分布的取值基本在(-3, 3)范围内,在这个区间里sigmoid函数变化比较剧烈。
2019-03-14 - zhoujie关于深度学习,除了那本圣经之外还有其他书籍推荐吗
作者回复: Francois Collet的Deep Learning with Python据说不错,但我没读过
2018-09-05 - 吕胜麻烦老师增加一些直观的解释2018-07-252
- 吴常亮越来越看不懂了,还是需要老师深入浅出的讲解下去2018-07-251
- ifelse学习打卡2023-06-07归属地:浙江
- PythonWC,看到今天终于懂老师写的专栏文章牛逼的地方了,之前看的懵懵懂懂,现在算有点前后融汇的感觉了2019-01-27
收起评论