• Geek_59
    2020-01-20
    极客时间
    21天打卡行动 33/21
    <<人工智能基础课35>>迁移学习
    回答老师问题:
    迁移学习的前景
    基于实例的深度迁移学习、基于映射的迁移学习、基于网络的迁移学习和基于对抗的迁移学习。在大部分实际应用中,上述方法被组合应用以获得更好的模型性能。当前大量的迁移学习研究都关注于有监督学习领域,未来深度学习在无监督和半监督领域可能会受到越来越多的关注。在传统迁移学习算法中,负迁移和迁移学习衡量方式是一个非常关键的问题,这也是在深度迁移学习中需要我们更加关注的研究。可以预见,随着深度学习的快速发展,深度迁移学习将会被广泛的应用在一些具有挑战性的课题上。
    [来源链接:https://www.jianshu.com/p/fdd04a6e1c2d]
    今日所学:
    1,迁移学习(transfer learning)是运用已学习的知识来求解不同但相关领域问题的新的机器学习方法,目的是让机器“学会学习”。
    2,迁移学习可以看作是提升学习算法泛化性能的一种思路;
    3,在迁移学习中,已有的知识(包括样本数据集及其分布)叫做源域,要学习的新知识叫做目标域。同样,待解决的任务也可以分为源任务和目标任务。
    4,迁移学习问题划分三类:a,归纳迁移学习b,直推式迁移学习,c,无监督迁移学习
    5,基于样本的迁移学习是对已有样本的重用过程,它通过调整源域中原始样本的权重系数,使之和目标域匹配,进而应用在目标域中;
    6,基于特征的迁移学习是特征表示的重建过程,它通过特征变换使得源域数据与目标域数据处在同一个特征空间之上,再在这个公共空间上进行学习;
    7,基于模型的迁移学习是已有模型的转移过程,它假设源任务和目标任务共享一些参数或者一些先验分布,将在训练数据上训练好的成熟模型应用到目标域上解决问题。
    8,基于关系的迁移学习是问题结构的复制过程,如果源域和目标域之间共享了某种相似关系,那就可以将源域上的逻辑关系网络应用到目标域上;
    重点:
    1,迁移学习是运用已学习的知识来求解不同但相关领域问题的新的机器学习方法,目的是让机器“学会学习”;
    2,迁移学习适用于跨领域和小数据的学习任务;
    3,迁移学习的任务类型可以分为归纳迁移学习,直推式迁移学习和无监督迁移学习;4,迁移学习的学习方法包括基于样本、基于特征、基于模型和基于关系
    展开
    
    
  • 桃园悠然在
    2018-11-02
    王老师好,自动驾驶算法应用于扫地机器人的路径规划算不算迁移学习的实际应用?
    
    
  • 林彦
    2018-02-27
    谢谢王教授分享。

    请问基于特征选择的迁移学习“从目标域数据中选择特有的特征来对共同特征训练出的通用分类器进行精化”,是从已经选择出的共同特征中,根据其与目标域的样本类别的相关程度,去除一些相关程度低的共同特征吗?

    感觉目前迁移样本或特征的选择,权重还没有比较科学可靠的标准。有些依赖于经验,有些求解比较困难。应用上通过人类经验的认知,在一些特定领域,比如图像识别,序列信号识别是有可能有一些更通用的底层的方法或模型能迁移到一个新的领域来提升其学习的表现或速度。有其价值,如何取得突破我的认知还不够判断力有限。
    展开

    作者回复: 一般来说,源域和目标域只有部分重合的特征,这些共有特征构成了迁移学习的基础。但据此把源域的学习结果套用到目标域上,相当于只考虑了两者的共性,而忽略了目标域的个性。这时就需要用目标域的独有特征,也就是共同特征之外的feature专门对目标域加以优化。就相当于我学习了学霸的学习方法,再根据自身情况加以微调,找到最适合自己的方法。
    权重确定是可以转化成最优化问题的,其中的方法就复杂了,但肯定依赖于具体问题。

    
    
我们在线,来聊聊吧