谷歌开放问答搜索最大语料库NQ
极客时间编辑部
讲述:杜力大小:2.86M时长:02:05
近日,谷歌人工智能语言研究科学家(Tom Kwiatkowski 和 Michael Collins )发表了一篇博文,宣布发布一个新的大规模训练和评估开放领域问答系统的语料库 NQ(Natural Questions ),旨在推动人们开发出更有效、更强大的问答系统。
据了解,开放域问答 QA 是自然语言理解(NLU)中的基准任务,旨在模拟人类查找信息,通过阅读和理解整个文档来查找答案的过程。举例来说,对于一个用自然语言表达的问题(“为什么天是蓝色的?”),QA 系统应该能够做到在阅读网页(例如维基百科页面)之后返回正确的答案,即使答案有点复杂和冗长。
然而,目前还没有大量公开的可用于训练和评估问答模型的自然生成问题(如人们寻求信息时提出的问题)及答案。这是因为,为了回答问题而收集一个高质量的数据集,不仅需要大量真实的问题源,还需要大量的人力才能找到正确的答案。
为了推动问答系统的研究进展,谷歌发布了 NQ,这是一个新的大规模训练和评估开放领域问题回答系统的语料库,也是第一个模仿人类寻找答案整个过程的语料库。
据悉,它由 30 万个自然发生的问题,以及维基百科页面上的人工注释答案组成,它们可以被用于训练问答系统。该语料库还包括 16 万 个示例,其中 5 个不同的注释器提供了答案(针对相同的问题),这有助于评估经过训练的问答系统的性能。
据介绍,NQ 是首个使用自然发生提问的数据集,它通过阅读整个页面来查找答案,而不是从短段中提取答案。为了创建 NQ,他们从用户在谷歌搜索引擎中进行的真实、匿名、汇总的查询开始。然后,他们让注释器通过阅读整个维基百科页面来寻找答案。注释器会查找涵盖可能推断出答案需要的所有信息的长答案,以及用一个或多个名称简洁地回答问题的简短答案。经测试,NQ 语料库中的注释质量准确度已经达到 90%。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论