谷歌发布自然语言框架语义解析器SLING
极客时间编辑部
讲述:杜力大小:886.21K时长:01:53
近日,谷歌发布了实验性系统 SLING,该系统是一个自然语言框架语义解析器,用于自然语言理解任务中,可以将自然语言文本直接解析成语义表示,即语义框架图(semantic frame graph)。
直到最近,最实用的自然语言理解(NLU)系统仍然使用的是分析阶段的流程,从词性标注和依存句法分析(dependency parsing)到计算输入文本的语义表示。尽管该流程促进了不同分析阶段的模块化,但早期阶段中的错误可能影响到后面的阶段以及最终表示,另外,中间阶段的输出可能与该阶段的相关性不强。
而谷歌研发的 SLING 系统,可以将自然语言文本直接解析成语义框架图。输出框架图直接捕捉用户感兴趣的语义标注,不运行任何中间阶段以避免流程系统的缺陷,还能够阻止不必要的计算。
SLING 使用一种专用的循环神经网络模型,通过对框架图的增量编辑操作来对输入文本的输出表示进行计算。反过来,框架图非常灵活,可以捕捉很多用户感兴趣的语义任务。它的解析器仅使用输入词进行训练,绕过生成任何中间标注的过程(如依存句法分析)。
此外,SLING 在推断阶段可以提供快速解析,通过提供一个高效、可扩展的框架存储实现和 JIT 编译器,生成执行该循环神经网络的高效代码。
同时,SLING 通过优化语义框架来训练循环神经网络。网络中隐藏层的内部学得表征,代替了手工制作的特征组合和流程系统中的中间表征。它使用编码器解码器架构,使用简单的词汇特征(如原词、后缀、标点等)将每一个输入单词编码为一个向量。另外,SLING 使用 TensorFlow 和 DRAGNN 来训练模型。
尽管 SLING 仍处于实验阶段,但依靠高效的框架存储能力和神经网络编译器,它已经在一块台式机 CPU 上取得了高于每秒 2,500 tokens 的解析速度。SLING 用 C++ 实现,目前已经可以在GitHub上下载。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论