百度登顶MarcO阅读理解测试排行榜
极客时间编辑部
讲述:丁婵大小:1.10M时长:02:24
近日,百度 NLP 团队提交的 V-Net 模型,在微软的 MS MARCO 机器阅读理解测试榜中位列第一,取得了 46.15 的 Rouge-L 得分,目前人类评测的 Rouge-L 得分为 47。
此次百度提交的 V-Net 模型,使用了一种新的多候选文档联合建模表示方法,通过注意力机制使不同文档产生的答案之间能够产生交换信息,互相印证,从而更好的预测答案。
据介绍,此次百度只凭借单模型(single model)就拿到了第一名,并没有提交多模型集成(ensemble)结果。
除了百度位列第一外,二、三、四名均由微软获得。此外,新加坡管理大学与德国人工智能研究中心也紧随其后。
据了解,MS MARCO 即微软机器阅读理解(Microsoft MAchine Reading Comprehension),这是一套由 10 万个问答和 20 万篇不重复的文档组成的数据集。MARCO 数据集中的问题全部来自于 BING 的搜索日志,根据用户在 BING 中输入的真实问题模拟搜索引擎中的真实应用场景,是该领域最有应用价值的数据集之一。
此前,在机器阅读理解领域,研究者参与的多是由斯坦福大学发起的 SQuAD 挑战赛。但与此相比,MARCO 的挑战难度更大些,因为它需要测试者提交的模型具备理解复杂文档、回答复杂问题的能力。
对于每一个问题,MARCO 都提供了多篇来自搜索结果的网页文档,系统需要通过阅读这些文档来回答用户提出的问题。但是,文档中是否含有答案,以及答案具体在哪一篇文档中,都需要系统自己来判断解决。更有趣的是,一些无法在文档中直接找到答案的问题,也需要阅读理解模型自己做出判断,甚至还要结合多篇文章做出提炼与总结,而这也对机器的阅读理解能力提出了更高的要求。
据了解,百度在自然语言处理领域经过了十余年的积累和沉淀,不仅专注于前瞻技术探索,更致力通过技术应用解决实际问题。这也是百度此次选择 MARCO 数据集而不是 SQuAD 的主要原因。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论