人工智能基础课
王天一
工学博士，副教授
立即订阅
12221 人已学习
课程目录
已完结 58 讲
0/4登录后，你可以任选4讲全文学习。
开篇词 (1讲)
开篇词 | 人工智能：新时代的必修课
免费
数学基础 (7讲)
01 数学基础 | 九层之台，起于累土：线性代数
02 数学基础 | 月有阴晴圆缺，此事古难全：概率论
03 数学基础 | 窥一斑而知全豹：数理统计
04 数学基础 | 不畏浮云遮望眼：最优化方法
05 数学基础 | 万物皆数，信息亦然：信息论
06 数学基础 | 明日黄花迹难寻：形式逻辑
（课外辅导）数学基础 | 拓展阅读参考书
机器学习 (10讲)
07 机器学习 | 数山有路，学海无涯：机器学习概论
08 机器学习 | 简约而不简单：线性回归
09 机器学习 | 大道至简：朴素贝叶斯方法
10 机器学习 | 衍化至繁：逻辑回归
11 机器学习 | 步步为营，有章可循：决策树
12 机器学习 | 穷则变，变则通：支持向量机
13 机器学习 | 三个臭皮匠，赛过诸葛亮：集成学习
14 机器学习 | 物以类聚，人以群分：聚类分析
15 机器学习 | 好钢用在刀刃上：降维学习
（课外辅导）机器学习 | 拓展阅读参考书
人工神经网络 (7讲)
16 人工神经网络 | 道法自然，久藏玄冥：神经网络的生理学背景
17 人工神经网络 | 一个青年才俊的意外死亡：神经元与感知器
18 人工神经网络 | 左手信号，右手误差：多层感知器
19 人工神经网络 | 各人自扫门前雪：径向基函数神经网络
20 人工神经网络 | 看不见的手：自组织特征映射
21 人工神经网络 | 水无至清，人莫至察：模糊神经网络
（课外辅导）人工神经网络 | 拓展阅读参考书
深度学习 (7讲)
22 深度学习 | 空山鸣响，静水流深：深度学习概述
23 深度学习 | 前方有路，未来可期：深度前馈网络
24 深度学习 | 小树不修不直溜：深度学习中的正则化
25 深度学习 | 玉不琢不成器：深度学习中的优化
26 深度学习 | 空竹里的秘密：自编码器
27 深度学习 | 困知勉行者勇：深度强化学习
（课外辅导）深度学习 | 拓展阅读参考书
深度学习框架下的神经网络 (5讲)
28 深度学习框架下的神经网络 | 枯木逢春：深度信念网络
29 深度学习框架下的神经网络 | 见微知著：卷积神经网络
30 深度学习框架下的神经网络 | 昨日重现：循环神经网络
31 深度学习框架下的神经网络 | 左右互搏：生成式对抗网络
32 深度学习框架下的神经网络 | 三重门：长短期记忆网络
深度学习之外的人工智能 (4讲)
33 深度学习之外的人工智能 | 一图胜千言：概率图模型
34 深度学习之外的人工智能 | 乌合之众的逆袭：集群智能
35 深度学习之外的人工智能 | 授人以鱼不如授人以渔：迁移学习
36 深度学习之外的人工智能 | 滴水藏海：知识图谱
应用场景 (4讲)
37 应用场景 | 你是我的眼：计算机视觉
38 应用场景 | 嘿, Siri：语音处理
39 应用场景 | 心有灵犀一点通：对话系统
40 应用场景 | 数字巴别塔：机器翻译
加餐 (5讲)
课外谈 | “人工智能基础课”之二三闲话
推荐阅读 | 我与人工智能的故事
直播回顾 | 机器学习必备的数学基础
第2季回归 | 这次我们来聊聊机器学习
新书 | 《裂变：秒懂人工智能的基础课》
复习课 (7讲)
一键到达 | 数学基础复习课
一键到达 | 机器学习复习课
一键到达 | 人工神经网络复习课
一键到达 | 深度学习复习课
一键到达 | 深度学习框架下的神经网络复习课
一键到达 | 深度学习之外的人工智能复习课
一键到达 | 应用场景复习课
结束语 (1讲)
结课 | 溯洄从之，道阻且长
人工智能基础课
登录|注册
18 人工神经网络 | 左手信号，右手误差：多层感知器
王天一 2018-01-18
虽然异或问题成为感知器和早期神经网络的阿喀琉斯之踵，但它并非无解的问题。恰恰相反，解决它的思路相当简单，就是将单层感知器变成多层感知器。下图就是一个多层感知器的实例，这个包含单个隐藏层的神经网络能够完美地解决异或问题。
（图片来自Machine Learning: An Algorithmic Perspective, 2nd Edition, Figure 4.2）
假定两个输入节点 A 和 B 的二进制输入分别为 1 和 0，则根据图中的权重系数可以计算出神经元 C 的输入为 0.5，而神经元 D 的输入为 0。在由 C 和 D 构成的隐藏层中，由于 C 的输入大于 0，因而符号函数使其输出为 1；由于 D 的输入等于 0，符号函数则使其输出为 0。在输出节点的神经元 E 上，各路输入线性组合的结果为 0.5，因而 E 的输出，也是神经网络整体的输出，为 1，与两个输入的异或相等。在此基础上可以进一步证明，这个神经网络的运算规则就是异或操作的运算规则。
多层感知器（multilayer perceptron）包含一个或多个在输入节点和输出节点之间的隐藏层（hidden layer），除了输入节点外，每个节点都是使用非线性激活函数的神经元。而在不同层之间，多层感知器具有全连接性，即任意层中的每个神经元都与它前一层中的所有神经元或者节点相连接，连接的强度由网络中的权重系数决定。多层感知器是一类前馈人工神经网络（feedforward neural network）。网络中每一层神经元的输出都指向输出方向，也就是向前馈送到下一层，直到获得整个网络的输出为止。
多层感知器的训练包括以下步骤：首先确定给定输入和当前权重下的输出，再将输出和真实值相减得到误差函数，最后根据误差函数更新权重。在训练过程中，虽然信号的流向是输出方向，但计算出的误差函数和信号传播的方向相反，也就是向输入方向传播的，正因如此，这种学习方式得名反向传播（backpropagation）。反向传播算法通过求解误差函数关于每个权重系数的偏导数，以此使误差最小化来训练整个网络。
在反向传播算法中，首先要明确误差函数的形式。当多层感知器具有多个输出时，每个分类结果 与真实结果 之间都会存在误差。在单层感知器中，误差直接被定义为两者之间的差值。但在多个输出的情形下，如果第一个输出神经元的误差大于零，第二个输出神经元的误差小于零，这两部分误差就可能部分甚至完全抵消，造成分类结果准确无误的假象。
如何避免这个问题呢？
取消
完成
0/1000字
划线
笔记
复制
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
该试读文章来自付费专栏《人工智能基础课》，如需阅读全部文章，
请订阅文章所属专栏。
请订阅文章所属专栏。
立即订阅
登录 后留言
精选留言(4)
思考问题的熊一个学习的感受，如果没有相关基础多说内容看一遍是没有什么感觉的。必须看完之后再去翻相关的资料和解释，然后再回过头来看文章，才会有有所感悟。2018-02-18 6
jimi要是配上点图就更会明白了2018-02-08 2
ttttthttps://google-developers.appspot.com/machine-learning/crash-course/backprop-scroll/
谷歌的一个反向传播演示页面，很有意思 。作者回复: 谢谢分享！但恐怕要用vpn才能看
2019-09-17 1- ttttt链式法则：
https://zh.wikipedia.org/wiki/%E9%93%BE%E5%BC%8F%E6%B3%95%E5%88%992019-09-17
收起评论