南大周志华:深度学习为什么深?
极客时间编辑部
讲述:杜力大小:1.08M时长:02:21
在近日举行的 2018 京东人工智能创新峰会上,南京大学计算机系主任、人工智能学院院长周志华教授提出,人工智能时代最缺的就是人才,因为对这个行业来说,有多好的人才,才可能有多好的人工智能。
会上,周志华教授做了题为《关于深度学习的思考》的主题演讲。他从深度学习的理论基础说起,从模型复杂度的角度探讨了“深度神经网络为什么深”的问题,提出深度学习在有很多成功应用的同时,也存在着调参困难、可重复性差等问题,在很多任务上并不是最好的选择。因此,探索深度神经网络之外的模型是很重要的挑战。
关于深度神经网络为什么深的问题,周志华教授表示,到今天为止,学术界都还没有统一的看法,有很多的论述,而他给出的论述主要是从模型的复杂度的角度来讨论的。
他认为,一个机器学习模型的复杂度实际上和它的容量有关,而容量又跟它的学习能力有关,也就是说学习能力和复杂度是有关的。其实,机器学习界早就知道,如果能够增强一个学习模型的复杂度,那么它的学习能力就能够提升。
对于神经网络这样的模型来说,提高复杂度有两条很明显的途径。一条是把模型变深,另一条是把它变宽,而变深会更加有效。因为在变宽的时候,只不过是增加了一些计算单元,增加了函数的个数,而在变深的时候不仅增加了个数,还增加了它嵌入的程度。
周志华教授强调,深度神经网络里面最本质的东西,是表示学习的能力。如今有了深度学习,就不再需要手工设计特征了。开发者把数据从一端扔进去,模型从另外一端就出来了,中间所有的特征完全可以通过学习自己来解决。这就是所谓的特征学习,或者说表示学习。这和以往的机器学习技术相比,可以说是一个很大的进步,因为不再需要依赖人类专家去设计特征了。
目前,周志华教授已经出任京东集团人工智能研究院学术委员会委员,同时京东集团已经启动建立京东人工智能研究院南京分院的进程,周志华教授将担任该分院学术总顾问。南京大学将在 AI 人才培养等方面和京东展开密切合作。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论