当前播放: 11 | 深度学习与硬件:GPU
00:00 / 00:00
高清
  • 高清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
课程目录
第一章:AI及NLP基础 (15讲)
01 | 课程介绍
免费
02 | 内容综述
免费
03 | AI概览:宣传片外的人工智能
免费
04 | AI项目流程:从实验到落地
免费
05 | NLP领域简介:NLP基本任务及研究方向
免费
06 | NLP应用:智能问答系统
07 | NLP应用:文本校对系统
08 | NLP的学习方法:如何在AI爆炸时代快速上手学习?
09 | 深度学习框架简介:如何选择合适的深度学习框架?
10 | 深度学习与硬件:CPU
11 | 深度学习与硬件:GPU
12 | 深度学习与硬件:TPU
13 | AI项目部署:基本原则
14 | AI项目部署:框架选择
15 | AI项目部署:微服务简介
第二章:深度学习简介和NLP试水 (14讲)
16 | 统计学基础:随机性是如何改变数据拟合的本质的?
17 | 神经网络基础:神经网络还是复合函数
18 | 神经网络基础:训练神经网络
19 | 神经网络基础:神经网络的基础构成
20 | Embedding简介:为什么Embedding更适合编码文本特征?
21 | RNN简介:马尔可夫过程和隐马尔可夫过程
22 | RNN简介:RNN和LSTM
23 | CNN:卷积神经网络是什么?
24 | 环境部署:如何构建简单的深度学习环境?
25 | PyTorch简介:Tensor和相关运算
26 | PyTorch简介:如何构造Dataset和DataLoader?
27 | PyTorch简介:如何构造神经网络?
28 | 文本分类实践:如何进行简单的文本分类?
29 | 文本分类实践的评价:如何提升进一步的分类效果?
第三章:表格化数据挖掘 (4讲)
30 | 经典的数据挖掘方法:数据驱动型开发早期的努力
31 | 表格化数据挖掘基本流程:看看现在的数据挖掘都是怎么做的?
32 | Pandas 简介:如何使用Pandas对数据进行处理?
33 | Matplotlib 简介:如何进行简单的可视化分析?
11 | 深度学习与硬件:GPU

11 | 深度学习与硬件:GPU

王然
众微科技AI Lab技术负责人、阿姆斯特丹大学数学和计量经济学双硕士
120讲 每周一/四更新1813
订阅¥129
4
本节摘要
登录 后留言

精选留言(7)

  • mochp
    王老师的课程真的是非常接地气,受益良多!关于显存污染这个问题有一些疑问
    1、GPU不做显存管理么?如果显存污染的话,一块卡只能部署一个模型,是不是一块卡上也只能有一个程序使用显卡,别的程序使用这个显卡的话会出问题
    2、目前确实尝试过在一块卡上部署了多个模型(三个yolo3,每个模型占用显存不到1G),但是没有发现什么问题(捂脸)。怎么能复现或者模拟下显存污染的场景。

    作者回复: 很难复现,这是最麻烦的问题。有时候就什么事情都没有,但一旦出现就很恶心。你可以部署多个模型,但建议用一个serving服务来做。

    2020-03-06
    1
    2
  • 王柯
    知识点 显存污染 get!!
    2020-03-03
    1
  • 岛乾坤
    老实这些注意事项都是实际工作中总结出来的?没有动手部署或者操作过,现在还不太好理解。希望后面老师能多分享工作中遇到的问题。

    作者回复: 基本都是踩过的坑~

    2020-03-03
    1
  • wonder2025
    有个问题,既然存在显存污染的问题,那用k8s管理gpu集群,让它来负责管理训练推理的资源是否合适呢?
    2020-03-12
  • wonder2025
    老师说的很实际,谢谢老师
    2020-03-12
  • qinsi
    商用卡和民用卡的区别主要是ECC,但据说对深度学习没啥影响
    2020-03-06
  • paddy0914
    目前基于k8s来调度GPU的方案,大部分是通过Mount Bind来实现的,这种方式只是做了多块卡的隔离,是不是不会触发老师说的显存污染问题?另外像NVIDIA针对商业卡的虚拟GPU方案,是否会出现显存污染的问题?

    作者回复: 1. 不一定能解决。如果你强制在一个GPU上部署多个模型多少有些危险。2. NVidia的方案我们试用过,主要问题是显存污染比较难以察觉和测试,所以我们虽然没发现问题,但是也确实没法说就不会出现问题(捂脸)。对于GPU的问题就是这样,特别难以发现,所以一般来说我建议都是尽可能隔离开,但是这样效率损失就很大。所以前后都是闹心...

    2020-03-03
    1
收起评论
看过的人还看
AI技术内参

洪亮劼  Etsy数据科学主管,前雅虎研究院资深科学家

166讲 | 9262 人已学习

拼团 ¥99 原价 ¥199
数据结构与算法之美

王争  前Google工程师

79讲 | 76792 人已学习

拼团 ¥79 原价 ¥99
后端存储实战课

李玥  京东零售计算存储平台部资深架构师

26讲 | 3228 人已学习

拼团 ¥79 原价 ¥99
深入浅出云计算

何恺铎  前国双技术总经理

18讲 | 1450 人已学习

¥68