TensorFlow等深度学习框架被指存安全漏洞
极客时间编辑部
讲述:丁婵大小:941.28K时长:02:01
近日,来自奇虎 360 安全研究实验室(Qixue Xiao、Deyue Zhang)、美国佐治亚大学(Kang Li)以及美国弗吉尼亚大学(Weilin Xu)的研究者共同指出:TensorFlow、Caffe、Torch 等深度学习框架对第三方开源基础库的过度依赖,会导致其存在大量的安全威胁。
近年来,人工智能空前火爆,而 TensorFlow、Caffe、Torch 等深度学习框架的使用,可以让应用开发人员无需关注底层实现细节,大大提高了人工智能应用的开发效率。
但是这些深度学习框架所提供的高效性也注定了框架自身的复杂性,而系统越复杂,就越有可能存在安全隐患,特别是这三大框架又都是搭建在众多第三方开源基础库之上的。
上述研究人员在分析了这三大深度学习框架所使用的大量第三方开源基础库之后,发现它们的确存在不少网络安全漏洞,容易受到拒绝服务攻击、逃逸攻击、系统损害攻击的影响。
值得注意的是,这是安全研究人员们首次对这三个框架进行安全分析,就在这三个框架中发现了 15 个安全漏洞,其中大部分漏洞源自开源计算机视觉库 Open CV,共有 11 个漏洞,而 Caffe 和 Torch 都依赖 Open CV。
这些漏洞,比如内存访问越界漏洞,都能被黑客利用来执行上述所说的三种网络攻击类型,都能被黑客用来篡改数据流,欺骗人工智能应用。
另外,从分析得出的漏洞列表可以看出,Caffe 和 Torch 面临的安全威胁较多,而 TensorFlow 的情况会稍好一些。
不过,研究人员也表示,这不是深度学习框架的错,而是这些框架所依赖的第三方开源基础库的问题。很多第三方开源基础库的漏洞都不能及时得到修复,而现有的深度学习框架却又过度地依赖它们。
如果这一情况不做改变,迟早,这种代码库之间过度依赖的现象会给每一位开发人员带来严重的安全隐患。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论