2019年8月10日,全球顶级AI对抗算法竞赛:“IJCAI-19阿里巴巴人工智能对抗算法赛”决赛在澳门落下帷幕,本次算法竞赛是国际人工智能学术顶会International Joint Conference of Artificial Intelligence( IJCAI 2019 )的重要组成分,吸引了全球AI领域的广泛关注,共有24个国家和地区的2520支参赛队伍。
可以“欺骗”神经网络的对抗样本可能被用来攻击人脸识别、无人驾驶、语音识别等各种人工智能系统,是近年来深度学习和人工智能领域的热门研究方向。为了让 AI 能够抵御攻击,研究人员一直在寻找构建稳固机器学习算法的道路。在此背景下阿里巴巴以电商数据为应用场景组织了此次比赛。
本次比赛共分为无目标攻击(使目标图片被错判为正确类别之外的其他类)、有目标攻击(使目标图片被错判为指定类)和模型防御(将对抗样本图片进行正确分类)三个赛道,每个赛道设置冠、亚、季军各一名。
中国科大网络空间安全学院的战队经过初赛、复赛和决赛的多轮比拼,最终分别获得防御赛道冠军和无目标攻击赛道亚军的好成绩,是唯一一支在两个赛道获奖的战队。
中国科大的战队成员均来自俞能海教授和张卫明教授共同指导的课题组,该课题组今年有多篇人工智能安全的论文发表在CVPR、ICCV等国际顶会,课题组组建的战队继CAAD 2018对抗样本竞赛荣获全球六强之后再次获得的优异成绩,展现了课题组在人工智能安全领域的研究实力。 (网络空间安全学院)
|