31 深度学习框架下的神经网络 | 左右互搏：生成式对抗网络
王天一
该思维导图由 AI 生成，仅供参考
2016 年 10 月，谷歌大脑的研究者们做了一个有趣的实验：使用三个并不复杂的神经网络执行保密通信的任务，两个合法通信方共享的只有保密的密钥，而没有商定的加解密算法，第三个神经网络则作为窃听者出现。
这种配置显然颠覆了密码学的常识：无论是公钥体制还是私钥体制，加解密的算法都是已知的。如果合法通信双方不能统一加解密的方法，实现保密通信就是“巧妇难为无米之炊”。可谷歌偏偏不信这个邪，他们就是要让神经网络实现双盲的加密与解密。
实验的结果同样令人惊讶：经过不断的试错与调整，接收方可以精确恢复出发送方的明文，而窃听者的错误率稳定在 50% 左右，意味着她的破译只是随机的猜测。这个实验的意义在于展示出神经网络的潜能：它们不仅能够在欠缺先验规则的条件下，通过对大量数据的无监督学习完成目标，甚至还能够在学习过程中根据实际条件的变化对完成目标的方式进行动态调整。
这个实验的环境，就是在最近两年名声大噪的生成式对抗网络。生成式对抗网络（generative adversarial network）由《深度学习》的第一作者伊安·古德菲洛提出，这是一类在无监督学习中使用的人工智能算法，由两个在零和游戏框架下相互竞争的神经网络实现。“零和游戏”（zero-sum game）这个术语来自于博弈论，意思是博弈双方的利益之和为零。由于一方的收益必然意味着另一方的损失，因而双方不可能实现合作，属于非合作博弈。
生成式对抗网络里的两个玩家一个叫生成器（generator），一个叫判别器（discriminator），均可以采用深度神经网络实现，这两者之间的对抗就是网络训练的主旋律。生成器像是白骨精，想方设法从随机噪声中模拟真实数据样本的潜在分布，以生成以假乱真的数据样本；判别器则是孙悟空，凭一双火眼金睛来判断输入到底是人畜无害的真实数据还是生成器假扮的伪装者。零和博弈中的竞争促使双方不断进化，直到“假作真时真亦假”，真真假假不可区分为止。
两个玩家费这么大劲对抗的目的是什么呢？就是建立数据的生成模型，使生成器尽可能精确估测出数据样本的分布。从学习方式上看，对抗性学习固然属于无监督学习，但对抗的引入使学习可以利用来自判别器的反馈信息，因而又蕴含着某些监督学习的影子。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
生成式对抗网络（GAN）是一种无监督学习的人工智能算法，由生成器和判别器两个相互竞争的神经网络组成。生成器试图从随机噪声中模拟真实数据样本的潜在分布，而判别器则负责判断输入是真实数据还是生成器伪造的数据。这种零和博弈的竞争促使双方不断进化，直到生成的数据无法与真实数据区分。GAN摆脱了对模型分布的依赖，拓宽了生成数据样本的范围，并能够自动学习潜在的损失函数。然而，GAN也存在缺乏理论基础和训练难度大的问题。尽管如此，GAN的提出标志着深度学习的一次突破，它能够实现机器自主创作，更接近于真实的人类行为方式。GAN在图像生成等领域表现突出，但在大多数任务上仍面临挑战。 文章指出，生成式对抗网络的变体层出不穷，但改进效果并不明显，因缺乏理论基础而导致改进方向不明确。这种“炼金术”尴尬处境也反映了整个深度学习所面临的问题。生成式对抗网络的优点在于超越了传统神经网络的功能，能够按照真实数据的特点生成新的数据，但其主要问题仍在于理论基础的缺失。 总的来说，生成式对抗网络在通用人工智能研究中具有潜在应用，可以让人工智能在没有明确指导的情况下学习，使算法的学习方式向人类的学习方式转变。然而，需要解决理论基础缺失和改进方向不明确的问题，以实现更广泛的应用。 综上所述，生成式对抗网络作为一种无监督学习算法，在人工智能领域具有重要意义，但仍需进一步研究和改进。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《人工智能基础课》，新⼈⾸单¥59
《人工智能基础课》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(5)
- 最新
- 精选
J.T老师 问一下 GAN跟强化学习的本质差异是什么？作者回复: 强化学习是从数据到决策的过程，GAN本质上还是个未知分布拟合的问题
2019-10-073
陈邓~cdAlphaZero可以理解成一种特殊的生成对抗网络吗？作者回复: 不是，它不是对数据的联合分布来建模，自己下棋的作用是优化搜索。
2018-07-061
ifelse
学习打卡2023-05-15归属地：浙江2- 杨家荣极客时间 21天打卡行动 29/21 <<人工智能基础课31>> 左右互搏：生成式对抗网络 回答老师问题: 生成式对抗网络的一个重要的潜在应用就是让人工智能在没有明确指导的情况下学习，使算法的学习方式向人类的学习方式转变。那么如何看待生成式对抗网络在通用人工智能研究中的前景呢？ 1,在对抗学习中不断学习事物肌理特性,对人脸做变换的例子，从黑发变金发、从直发变爆炸头、把微笑变成露齿笑甚至改变性别; 2,对基因进化的演变等; [来源:https://blog.csdn.net/cf2SudS8x8F0v/article/details/78138704, https://baijiahao.baidu.com/s?id=1632614041029229029&wfr=spider&for=pc, https://www.eurekalert.org/pub_releases_ml/2018-05/imi-5051018.php] 今日所学: 1,生成式对抗网络:这是一类在无监督学习中使用的人工智能算法，由两个在零和游戏框架下相互竞争的神经网络实现; 2,“零和游戏”（zero-sum game）这个术语来自于博弈论，意思是博弈双方的利益之和为零。由于一方的收益必然意味着另一方的损失，因而双方不可能实现合作，属于非合作博弈。 3,生成式对抗网络里的两个玩家一个叫生成器（generator），一个叫判别器（discriminator），均可以采用深度神经网络实现，这两者之间的对抗就是网络训练的主旋律. 4,由于生成器和判别器处于零和博弈之中，因而对网络的训练就可以等效成对以下目标函数的极大 - 极小问题; 5,其中“极大”是让判别器区分真实数据和伪造数据的准确率最大化，“极小”则是让生成器生成的数据被判别器发现的概率最小化。对整体极大 - 极小问题的优化可以通过交替迭代训练的方式实现。 6,生成式对抗网络好就好在摆脱了对模型分布的依赖，也不限制生成的维度，因而大大拓宽了生成数据样本的范围。 7,生成式对抗网络能够整合不同的损失函数，增加了设计的自由度; 8,缺点:生成式对抗网络也有它的问题。最主要的一个问题就是缺乏理论基础;生成式对抗网络面临的另一个主要问题就是训练的难度 重点: 1,生成式对抗网络是一类运行在零和博弈框架下的无监督学习算法，由生成器和判别器构成； 2,生成器的目的是精确模拟真实数据的分布，判别器的目的是精确区分真实数据和生成数据； 3,生成式对抗网络的主要优点是超越了传统神经网络分类和特征提取的功能，能够按照真实数据的特点生成新的数据； 4,生成式对抗网络的主要问题是理论基础的缺失。2020-01-16
宇宙全栈remember me - 宇宙全栈2018-02-17
收起评论