阿里联合IJCAI发起人工智能对抗算法竞赛
极客时间编辑部
讲述:丁婵大小:2.58M时长:02:49
近日,阿里安全、阿里云天池平台联合人工智能领域国际会议 IJCAI(International Joint Conference on Artificial Intelligence),发起人工智能对抗算法竞赛,探索对抗攻击时如何解决 AI 模型的安全性问题。目前,赛题和日程已经在天池平台公布,本次竞赛将于 4 月 20 日截止报名。
据了解,这次比赛主要针对图像分类,包括模型攻击与模型防御,阿里公开 110 个类目,共计 11 万张左右图片,以供选手使用。参赛选手可以作为攻击方,对图片进行轻微扰动生成对抗样本,使模型识别错误,或识别成指定的错误类别,也可以作为防御方,构建一个更加鲁棒的模型,准确识别对抗样本。
为了强调面向真实场景,这次竞赛采用的是实际场景的图片识别任务进行攻防对抗。除了真实数据外,还包括对计算量的严格限制,以及对扰动噪音的限制,这更能还原真实的安全与黑灰产的攻防。
在国际知名顶会 NIPS2017 年和 2018 年会议上,谷歌大脑曾经连续举办对抗样本攻防竞赛,普及对抗样本攻击的课题。不过,与阿里联合 IJCAI 举办的这次竞赛不同的是,他们利用的样本集均来自学术数据集 ImageNet。
阿里安全图灵实验室负责人、资深专家薛晖称,未来的安全能力一定是建立在智能与算法基础之上,他们希望提供真实的、对抗的场景,建立前沿研究和具体业务之间的桥梁,进而反哺和促进整个人工智能的发展。这也是阿里首次提出“安全 AI ”概念的初衷。
阿里安全称,通过大赛发掘安全 AI 人才也是预期目标之一。
经过初赛、复赛和答辩,排名前三甲的队伍,除了获得 1000 至 5000 美元不等的奖金外,还会被邀请参加今年 8 月在澳门举办的 IJCAI 会议。清华大学教授朱军、中国科学技术大学教授张卫明、浙江大学研究员纪守领、阿里达摩院高级研究员华先胜等在内的 AI 安全领域专家将担任竞赛评审。
据了解,IJCAI 被中国计算机学会推荐为计算机学科领域 A 类国际会议,从 1969 年开始每两年举办一次,自 2016 年起改为每年一次。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论