当前播放: 文本表示与文本生成模型新进展与应用
00:00 / 00:00
标清
  • 标清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
合辑:机器学习应用和实践
AI技术在短视频商业化中的应用
人工智能在外卖送达时间预估上的应用
人工智能和机器学习在滴滴多个业务场景的深度应用和实践
文本表示与文本生成模型新进展与应用

文本表示与文本生成模型新进展与应用

李磊 字节跳动 人工智能实验室总监

李磊 字节跳动 人工智能实验室总监

内容介绍

本次讲座将介绍文本表示和文本生成方面的近一年重要进展。文本表示和生成是两个不可分割的任务。今年包括 ELMo、GPT、BERT 等新工作通过上下文语境对词向量建模。而今年也有一系列工作寻找最优表达句子的树以及研究基于树结构表示句子中的决定性因素。利用更好的表示,我们改进了翻译模型中过翻译和欠翻译的问题。我们也将介绍利用监督和非监督的方法训练模型根据关键词生成句子,进而推广到一般受限文本生成。基于这些技术,我们研发的写稿机器人已经写作超过 6 万篇文章跨 6 个语言,拥有 12 万多粉丝关注。我们也将介绍文本生成在搜索和广告等场景中的应用。

内容大纲

  1. 写稿机器人概述
  2. 句子表示
    (1) 上下文相关向量话表示 ELMo、GPT、BERT
    (2) 树结构的神经网络句子表示
  3. 机器翻译中的词覆盖问题
    (1)词覆盖模型
    (2)Past-and-future 模型
  4. 受限文本生成
    (1)监督方法
    (2)非监督贝叶斯采样方法 CGMH
    (3)时间序列补全模型
  5. 应用介绍
展开
¥4.99 购买
开通VIP
12
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
其他推荐
47:28
从数据到智慧,知识图谱如何推动金融更加智能?
鲍捷 文因互联CEO人工智能领域知名专家
试看
46:29
智能聊天机器人在汽车领域的应用实践
雷涛 汽车之家 高级算法工程师
试看
43:10
语音技术在小米的实践应用之路
王育军 小米 语音技术负责人
试看