03 | 深度学习基础：你打牢深度学习知识的地基了吗？
该思维导图由 AI 生成，仅供参考
一切要从一个神经元开始
荧光笔
直线
曲线- 深入了解
- 翻译
- 解释
- 总结
深度学习是当前技术领域的热门话题，本文从神经元的基本结构出发，介绍了深度学习的基础知识。文章首先解释了神经元的结构和工作原理，引出了人工神经元的概念，并介绍了神经网络的重要性以及激活函数的作用。接着，文章详细介绍了神经网络的训练方法，包括前向传播和反向传播，以及梯度下降法在权重更新中的应用。此外，文章还探讨了神经网络与深度学习的关系，指出深度学习是神经网络的延伸和发展，极大地丰富了神经网络的结构种类，使其能够处理各类复杂问题。最后，文章总结了深度学习的突破原因，包括算力的提高、数据的丰富和深度学习理论的进一步发展。深度学习的发展前景也在文章中得到了展示。通过本文，读者可以快速了解深度学习的基础知识，以及深度学习与神经网络的关系，为进一步学习深度学习技术打下坚实的基础。文章还介绍了深度学习在推荐系统中的应用，强调了深度学习模型在推荐系统中取代传统模型的重要性，以及对推荐系统整体架构的调整需求。文章以小结和课后思考的形式，引导读者巩固所学知识并思考深度学习网络结构的影响因素。
《深度学习推荐系统实战》，新⼈⾸单¥68
全部留言(27)
- 最新
- 精选
Ultradatastream喆哥, 有个问题想请教下, 曾经有段时间比较关注Meta Learning(元学习), Meta Learning 可解决Deep Learning "大量喂数据, 暴力迭代"的"诟病", Meta Learning算法如果结合部分深度推荐算法使用得当, 效果可能会好些, 工业界目前也有部分实现, 如阿里、华为等, 请问下Meta Learning会是未来推荐系统算法的"一大爆点"吗？作者回复: 从我的经验来看，metadata的作用远远小于用户历史行为。 学推荐系统，计算广告，切忌从什么新闻，公众号，甚至是paper里面学，每个公司都有pr的需求，但你并不需要，你需要的是实践经验，只需要从这些地方汲取这些idea就可以，最终都需要你去实践。
2021-01-06249
明月任务影响网络的架构，比如关注时间信息多一些，RNN就更适合，关注局部信息，CNN就更适合。网络不适合过深，容易过拟合，而且也会存在太深对任务不会有显著的提高，反而对资源有过多的浪费，比如，lstm在做语义理解的时候，通常只会最多两层作者回复: 非常好，经验之谈。
2020-11-29229
大土豆老师，我想问下，您有见过服务端或者客户端的同学，转型AI开发成功的例子吗？可不可以分享下，我们的订阅听众可能大多数都不是AI出身，都是服务端或者客户端半路出家AI的作者回复: 还是有一些的。我在中国和美国公司都分别见到过一位这样的同事的。 他们有共同点，就是之前从事后端开发的工作，对java jvm非常熟悉，另外对spark有一定经验，然后转到推荐或者广告团队。现在做的都非常出色。 我觉得只要不是纯算法的工作，工程能力就是首要的能力，大家不要被AI、算法工程师这些title吓到，认为传统工程师和算法工程师之间的gap非常大。其实算法团队对工程能力非常好的同学永远都有需求。
2020-09-28523
何去何从请问老师画图使用什么工具？谢谢作者回复: 用了一个线上工具 https://app.diagrams.net/ 不知道国内能不能访问，可以试一下。
2020-09-2821- w1sl1yhttps://github.com/w1sl1y/bpnn 之前用java写的一个BPNN的demo，新手可以看一下代码，加深反向神经网络的了解
作者回复: 赞
2020-09-2919 - Geek_f676f3单从推荐领域来看，深度学习模型并非越深越好，模型的构建需要对数据及业务有深刻的洞察，没有更好的模型，只有更适合的模型
作者回复: 说的太好了
2021-02-2812 
Chris希望老师更新快一些，一周只等来了一节课，有点慢啊。作者回复: 因为国庆假期快到了所以没有按正常速度更新。国庆后会按照一周三节的速度更新。
2020-09-2810- 嘿人数据量大，特征多，就需要更深的神经网络来充分学习，如果数据量少，还用深层的神经网络，会容易出现过拟合，过拟合可以加正则项来对网络中的权值进行惩罚，但数据量是个根本性的问题。当然，收集了足够多的数据后，网络的深度和结构的设计也有关系。加了短连接的Resnet、DenseNet能搭建起更深的网络模型，其为梯度的反向传播提供了捷径，使得深层的神经网络不再难以训练。
作者回复: 很好，是经验之谈。
2020-12-099 - 李@君不同应用领域(图片分类，NLP)的模型结构会有所不同。模型深度越深，就需要更多的训练数据，和更强大的算力。但是深度和预测结果是否成正相关呢。现在的模型是结构越来越复杂，参数越来越多。
作者回复: 非常好的insight。应该根据问题类型、数据规模来决定模型的结构和复杂度。 通常来说，模型结构跟要解决的业务问题强相关，数据规模决定了模型能够支持的复杂程度。
2020-09-2829 
抱小星影响网络结构的，一个是问题规模的复杂程度，会影响深度学习神经网络的"假设空间"，如果参数的假设空间不够，无法完全拟合问题的解决方案，会造成信息瓶颈，这个是下限。第二个是算力、数据和工程资源限制，如果需要过多的数据去训练，那应该降低模型复杂度，又或者是算力和线上存储资源不足，也应该削减模型部分的开销。这个是上限。作者回复: 非常好的回答，推荐大家参考
2021-06-158