20 人工神经网络 | 看不见的手：自组织特征映射

请问拓扑邻域函数有什么不错的参考资料除了文中的原理阐述，能看到数学公式，代码实现(最好是基于Python)或伪代码实现吗？能有实例更好。谢谢。

极客时间 21天打卡行动 18/21 <<人工智能基础课20>>自组织特征映射 回答老师问题: 自组织映射具有通过时间上的演化在无序中产生有序的内在能力，这与目前同样火热的非线性科学与复杂系统的研究有几分神似。那么关于复杂性的研究能否应用于人工智能之中呢？ 查资料后,汇总自己的语言:是可以的,例如当今的围棋alpha zero,还有医学领域等等; 今日所学: 1,将无监督学习引入神经网络中，对应的结构就是自组织特征映射（Self-Organizing Map); 2,自组织映射有两个明显的不同:第一，它能够将高维的输入数据映射到低维空间之上（通常是二维空间），因而起到降维的作用。第二，自组织映射采用的是竞争性学习而非传统的纠错学习。 3,侧向抑制”的效应，它描述的是兴奋的神经元会降低相邻神经元活性的现象。侧向抑制能够阻止从侧向刺激兴奋神经元到邻近神经元的动作电位的传播; 4,自组织映射的主要任务就是将任意维度的输入模式转换为一维或二维的离散映射，并以拓扑有序的方式自适应地实现这个映射; 5,网络的训练就包括以下三个主要过程:a,竞争过程,b,合作过程,c,自适应过程; 6,竞争过程的实质是找到输入模式和神经元之间的最佳匹配; 7,两个向量的内积越大，它们之间的欧氏距离就越小，因而内积最大化的匹配准则等效于欧氏距离最小化。从这个角度看，获胜神经元就是对输入模式的最佳匹配。 8,竞争过程确定了合作神经元的拓扑邻域的中心，合作过程就要界定中心之外的拓扑邻域; 9,自适应过程可以分为两个阶段。第一阶段是排序阶段，权重系数的拓扑排序在这个阶段形成；第二阶段是收敛阶段，通过微调特征映射实现对输入模式的精确描述。只要算法的参数没有问题，自组织映射就能将完全无序的初始状态按照输入模式以有组织的方式重构，这也是“自组织”的含义。 10,从输入模式到神经元的映射关系被称为特征映射; 11,自组织映射可以看成是一个编码器 - 解_码器模型：寻找最佳匹配神经元就是对输入模式进行编码，确定权重系数则是对编码结果进行解码，邻域函数则可以表示对编解码过程造成干扰的噪声的概率密度。自组织映射的这个性质与信息论中用于数据压缩的向量量化方法不谋而合。 总结: 重点: 1,自组织映射是一类无监督学习的神经网络，模拟了生物神经系统的竞争性学习机制； 2,自组织映射能将任意维度的输入模式转换为一维或二维的离散映射，得到的特征映射是拓扑有序的； 3,在拓扑映射中，输出神经元的空间位置对应了输入数据的模式或特征； 4,自组织映射网络的训练包括竞争过程、合作过程和自适应过程等几个主要步骤。

关于复杂性的研究，应该是可以用于人工智能的。虽然大都倾向于以简化繁，但繁琐复杂是研究中必然会逐渐面对的，不然怎么从复杂中抽取出精炼的简单的成分

学习打卡

一个参考视频：https://www.bilibili.com/video/BV1244y1E7PQ

极客时间 21天打卡行动 18/21 <<人工智能基础课20>>自组织特征映射 回答老师问题: 自组织映射具有通过时间上的演化在无序中产生有序的内在能力，这与目前同样火热的非线性科学与复杂系统的研究有几分神似。那么关于复杂性的研究能否应用于人工智能之中呢？ 查资料后,汇总自己的语言:是可以的,例如当今的围棋alpha zero,还有医学领域等等;

极客时间 21天打卡行动 18/21 <<人工智能基础课20>>自组织特征映射