FAIR成立5年，带来哪些颠覆性变革？
极客时间编辑部
讲述：杜力大小：4.73M时长：05:10
本月，在 Facebook 人工智能研究院（FAIR）成立满五周年之际，FAIR 的创办者兼首席 AI 科学家杨立昆（Yann LeCun）、FAIR 现任负责人杰罗姆·佩森（Jerome Pesenti），以及 Facebook 首席技术官斯科洛普夫（Mike Schroepfer）在官网联合发布博客，盘点了 FAIR 五年来所做的事情以及达成的成就。
五年前，他们创建了 Facebook 人工智能研究小组（FAIR），通过公开研究的方式推动人工智能的发展，旨在理解智能的本质以创造智能机器。如今，人工智能已经成为 Facebook 的核心，FAIR 也成为 Facebook 更大的 AI 组织中的一部分，该组织致力于人工智能研发的各个方面，从基础研究到应用研究和技术开发。
FAIR 在各方面的工作中采用开放模式，与社区广泛合作。这种开放式的方法成功推进了人工智能研究的发展。他们从过去五年中做过的所有项目中选择了一小部分，来展示 FAIR 如何逐渐接近使命，为我们的领域做出贡献，并对世界产生影响。
1. 内存网络
2014 年，FAIR 的研究人员发现了神经网络的一个内在局限性，也就是长期记忆。虽然神经网络可以在数据集训练过程中学习，但是一旦这些系统开始运行，通常就无法存储新信息以解决以后的特定任务。
因此，他们开发了一种新的学习模型机器，能够记住足够的交互，以回答一般知识问题并参考先前对话中的句子。
2. 自我监督学习和生成模型
2014 年，来自蒙特利尔大学 MILA 的研究人员提出了一种新的无监督学习方法 GAN（生成对抗网络）。从 2015 年开始，FAIR 的研究人员发表了一系列论文，使用 GAN 来训练机器在存在不确定性的情况下进行预测。
2017 年，FAIR 引入了 WGAN（Wasserstein GAN）方法，该方法提出了一种使鉴别器变得“平滑”且更有效的方法，以告诉生成器如何改进其预测。
3. 可规模化的文本分类
在 2016 年，FAIR 构建了 fastText，这是一个快速进行文本分类和学习单词表示的框架，它考虑了分类单词的更大形态。在 2017 年发表的一篇论文中，FAIR 提出了一个模型，将向量分配给“子词单位”（例如，3 或 4 个字符的序列）而不是整个单词，让系统为训练中没有出现的单词创建表示。
最终，该模型的分类可以扩展到数十亿个单词，并从新的、未经训练的单词中学习，同时速度也比普通的深度学习分类器训练快得多。
4. 前沿翻译研究
快速、准确和灵活的翻译是帮助世界各地人们进行交流的关键。因此，FAIR 在早期就开始寻找一种优于当时最先进的统计机器翻译的新方法。建立基于 CNN，集速度、准确性和学习能力为一体的神经机器翻译（NMT） 架构。在实验中，这种方法使 RNN 速度提高了 9 倍，同时保持了最先进的准确率。
为了避免需要大量翻译训练数据集（通常称为语料库），他们还在探索其他方法，如多语言嵌入，这可以实现跨多种语言的训练。去年，他们发布了 MUSE ，这是一个开源 Python 库，提供了两种不同的学习多语言嵌入的方法。
5. 通过 AI 工具帮助每一个人
2015 年，他们开源了由 FAIR 创建的 Torch 深度学习模块 ，以加快更大规模的神经网络训练。2016 年发布了 Torchnet ，让社区可以更轻松、快速地构建有效且可重复使用的学习系统。不久之后，他们又推出了 Caffe2 ，这是用于移动计算的模块化深度学习框架，目前正在全球超过 10 亿部手机上运行神经网络。
接着，2017 年初，他们发布了 PyTorch，现在它已经成为 GitHub 上增长速度第二快的开源项目，也是全球 AI 开发人员的首选框架。
6. 计算机视觉的新基准
探索智能的本质是一种关于多感官模式的研究，但 FAIR 过去五年里在计算机视觉上的进步却是值得被记录的。
在 FAIR 诞生之前，Facebook 的一个小型 AI 专家团队在想办法更好地理解像素在图像中表示人物的方式，以便在正确的时间为人们展示合适的照片。快进到 2017 年，FAIR 的 Mask-CNN 获得了计算机视觉国际会议最佳论文，它将计算机视觉世界的物体检测与语义分割结合到了一起。
他们表示，在开始创建 FAIR 的时候，最终目标是了解智能，发现其基本原则，并使机器更加智能化。现在，这个目标没有改变。他们将继续将研究工作扩展到诸如开发能够通过自我监督学习获得世界模型的机器，训练机器进行推理，并训练它们规划和构思复杂的连续动作。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》，如需阅读全部文章，
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论