极客时间
21天打卡行动 32/21
<<人工智能基础课34>> 集群智能
回答老师问题:
那么关于集群智能的研究又能给神经网络带来哪些启发呢？
最好的解释:应该是人吧!
单一个体,应该还在以打猎为生;可群体生活后产生了,宗教,政治,战争,荣耀…
这是量变后的效应;
今日所学:
1,集群智能的核心是由众多简单个体组成的群体能够通过相互之间的简单合作来实现某些功能，完成某些任务。
2,体本身不具备中心化的结构，而是通过个体之间的识别与协同达成稳定的分布式结构。这个分布式结构会随着环境的变化，以自身为参考系不断趋于新的稳定。
3,集群智能（swarm intelligence）正是群居性生物通过协作表现出的自组织与分布式的宏观智能行为，它具有如下的特点：
A,第一个特点是可扩展性
B,第二个特点是并行性
C,第三个特点是容错性
4,用集群智能方法实现人工智能，代表的是研究方式的转变;
5,从结构模拟出发，通过人为创造类似人类脑神经系统的结构模型，实现智能的大规模涌现。
6,当构成一个系统的基本单元数量极为庞大时，将这些个体看作一个整体，就会有一些全新的属性、规律或模式自发地冒出来，这种现象就称为“涌现”（emergence）。
7,对涌现现象的代表性应用，就是以蚁群算法为代表的各类粒子群算法。
8,蚁群优化算法（ant colony optimization）：通过对蚁群在寻找食物过程中发现最优路径行为的模拟来寻找问题的最优解。
9,在行进的过程中，蚂蚁会在自己的路径上释放信息素，信息素的强度是与解的最优程度成正比的，新的蚂蚁则会根据已有信息素的强度选择自己的行进路径。
10,蚁群算法就是利用这种正反馈机制逐步遍历解空间，使搜索向最优解推进。
11,蚁群的行为与蚁群算法的诞生对人工智能的研究也是一种启示：相对于宏观的功能模拟，结构模拟重于微观的解构;
重点:
1,集群智能是由众多简单个体通过自组织和去中心化的简单合作实现的智能；
2,集群智能具有可扩展性、并行性和容错性等特点；
3,集群智能体现出微观个体之间的相互作用能够实现整体大于部分之和的效果，其实例是蚁群算法；
4,集群智能在人工智能中的应用代表的是从宏观模仿到微观解构的方向转变。

看了一些参考的文章，其中神经演化（neuro evolution）中的一些算法觉得可以看作把集群智能的一些方法应用于神经网络的进化。

比如OpenAI 使用worker算法，教会一个主算法完成任务的最佳方法。OpenAI 团队设置了 1440 个 worker 算法来完成 Atari 游戏。这些 worker 会一直玩游戏直到 Game Over，然后它们会把自己的分数汇报给 Master（主人）。OpenAI 的研究人员复制那些获得了最高分数的算法，并且让副本产生随机突变。突变后的 worker 会回到整个循环里，在整个过程中不断重复，有利的突变得到奖励，有害（不好）的则被淘汰。

worker找到最佳的解决方案；Master是信息的中心枢纽。

Evolving neural networks through augmenting topologies这篇论文的方法我觉得可以拓展成神经网络通过集群智能来适应变化。