人工智能基础课
王天一
工学博士,副教授
58937 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 59 讲
开篇词 (1讲)
人工智能基础课
15
15
1.0x
00:00/00:00
登录|注册

19 人工神经网络 | 各人自扫门前雪:径向基函数神经网络

递归最小二乘法
使用递归最小二乘法(Recursive Least Square)使损失函数最小化
损失函数设定为最小均方误差函数
随机分配或通过K均值聚类完成
感受野(receptive field)
核技巧在神经网络中的应用
反向传播算法对参数进行微调
输出层的训练
用线性模型拟合初始化的隐藏层中的各个中心向量
初始化中心向量
能够将低维空间上的线性不可分问题转化为高维空间上的线性可分问题
高斯函数作为常用的径向基函数
隐藏层使用径向基函数作为传递函数
包含三层:输入层、隐藏层、输出层
神经元的局部作用原理有生理学依据
每个局部神经元只对特定区域的输入产生响应
对每次训练,网络都要调整全部权值,导致全局逼近网络的收敛速度较慢
网络的每个权重对任何一个输出都会产生同等程度的影响
应用
训练过程
径向基函数神经网络(RBFN)
局部作用
多层感知器是一类全局逼近的神经网络
如何训练径向基函数神经网络?

该思维导图由 AI 生成,仅供参考

多层感知器是一类全局逼近的神经网络,网络的每个权重对任何一个输出都会产生同等程度的影响。因而对于每次训练,网络都要调整全部权值,这就造成全局逼近网络的收敛速度较慢。显然,这是一种牵一发而动全身的全局作用方式。
与全局作用对应的是局部作用。在局部作用中,每个局部神经元只对特定区域的输入产生响应。如果输入在空间上是相近的,对这些输入的反应应该是相似的,那么被这些输入激活的神经元也应该是同一批神经元。进一步推广又可以得到,如果一个输入 在另外两个输入 的空间位置之间,那么响应输入 的神经元也应该在一定程度上被 激活。
神经元的局部作用原理有它的生理学依据。当你仰望夜空中的点点繁星时,茫茫暗夜中的星光激活的是视觉神经的特定部分。随着地球的自转,星光也会移动,虽然亮度没有变化,但不同位置的星光激活的就是视觉神经中的不同部分,因而产生响应的神经元也会发生变化。有些原本被激活的神经元会因为目标对象的移出而被抑制,有些原本被抑制的神经元则因为目标对象的移入而被激活。
在神经科学中,这个概念被称为“感受野(receptive field)”。一个感觉神经元的感受野指的是位于这一区域内的适当刺激能够引起该神经元反应的区域。人类神经的感受野的变化方式可以在人工神经网络中以权重系数的形式体现出来,而按照感受野的变化规律设置权重系数,得到的就是“径向基函数神经网络”(Radial Basis Function Network , RBFN)。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

径向基函数神经网络(RBFN)是一种局部作用的神经网络,其隐藏层采用径向基函数作为传递函数,能够处理非线性可分问题和多变量插值。RBFN的训练包括K均值聚类和递归最小二乘法,通过这些步骤实现隐藏层和输出层的优化。类似支持向量机的核技巧,RBFN能够将低维空间中的非线性问题映射成高维空间中的线性问题,从而解决线性不可分问题。此外,设计者可以通过控制聚类数目和带宽来调节RBFN的性能和计算复杂度。总的来说,RBFN的训练方法简单直观,适用于处理非线性可分问题和多变量插值,具有较高的实用价值。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《人工智能基础课》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(3)

  • 最新
  • 精选
  • 夜星辰
    传递函数是激活函数吗?

    作者回复: 是的

    2018-03-17
    4
  • ifelse
    学习打卡
    2023-05-07归属地:浙江
    1
  • Simon
    可以说径向基函数,这种特殊激活函数,完全决定了径向基网络的特性。
    2020-03-22
收起评论
显示
设置
留言
3
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部