极客时间
21天打卡行动 33/21
<<人工智能基础课35>>迁移学习
回答老师问题:
迁移学习的前景
基于实例的深度迁移学习、基于映射的迁移学习、基于网络的迁移学习和基于对抗的迁移学习。在大部分实际应用中,上述方法被组合应用以获得更好的模型性能。当前大量的迁移学习研究都关注于有监督学习领域,未来深度学习在无监督和半监督领域可能会受到越来越多的关注。在传统迁移学习算法中,负迁移和迁移学习衡量方式是一个非常关键的问题,这也是在深度迁移学习中需要我们更加关注的研究。可以预见,随着深度学习的快速发展,深度迁移学习将会被广泛的应用在一些具有挑战性的课题上。
[来源链接:https://www.jianshu.com/p/fdd04a6e1c2d]
今日所学:
1,迁移学习(transfer learning)是运用已学习的知识来求解不同但相关领域问题的新的机器学习方法,目的是让机器“学会学习”。
2,迁移学习可以看作是提升学习算法泛化性能的一种思路;
3,在迁移学习中,已有的知识(包括样本数据集及其分布)叫做源域,要学习的新知识叫做目标域。同样,待解决的任务也可以分为源任务和目标任务。
4,迁移学习问题划分三类:a,归纳迁移学习b,直推式迁移学习,c,无监督迁移学习
5,基于样本的迁移学习是对已有样本的重用过程,它通过调整源域中原始样本的权重系数,使之和目标域匹配,进而应用在目标域中;
6,基于特征的迁移学习是特征表示的重建过程,它通过特征变换使得源域数据与目标域数据处在同一个特征空间之上,再在这个公共空间上进行学习;
7,基于模型的迁移学习是已有模型的转移过程,它假设源任务和目标任务共享一些参数或者一些先验分布,将在训练数据上训练好的成熟模型应用到目标域上解决问题。
8,基于关系的迁移学习是问题结构的复制过程,如果源域和目标域之间共享了某种相似关系,那就可以将源域上的逻辑关系网络应用到目标域上;
重点:
1,迁移学习是运用已学习的知识来求解不同但相关领域问题的新的机器学习方法,目的是让机器“学会学习”;
2,迁移学习适用于跨领域和小数据的学习任务;
3,迁移学习的任务类型可以分为归纳迁移学习,直推式迁移学习和无监督迁移学习;4,迁移学习的学习方法包括基于样本、基于特征、基于模型和基于关系
展开