祝贺我院学生战队在首届 IJCAI-19阿里巴巴人工智能对抗算法竞赛中取得佳绩

发布时间: 2019-06-12

祝贺中国科技大学网络空间安全学院学生战队在首届

IJCAI-19阿里巴巴人工智能对抗算法竞赛中取得佳绩


近年来深度学习技术在计算机视觉等多个领域取得了突破性进展,在一些对安全需求很高的应用中也受到了极大的关注,如自动驾驶、金融分析等。然而人工智能模型本身也存在安全性问题,这种深度学习模型的安全关系到生命安全、金融安全等诸多方面,广泛引起了AI从业人员的重视。在这一背景下,致力于引领技术前进方向的阿里巴巴集团以人工智能领域顶级国际会议IJCAI为依托,由旗下阿里安全和阿里云天池大数据平台等单位共同举办了首届阿里巴巴人工智能对抗算法竞赛,该比赛凭借强大的影响力和权威性得到国内外从事人工智能安全研究的高等院校及企业的关注,吸引了来自世界各地的2500余只战队报名参赛。


中国科学技术大学网络空间安全学院一直关注深度学习安全领域的相关研究,并鼓励领域内的研究团队积极参加相关竞赛。其中信息隐藏课题组长期从事多媒体安全与深度学习攻防对抗方面的研究,拥有良好的理论基础与参赛经验,人工智能安全也是课题组所重点关注的研究方向之一。在学院领导与课题组指导老师的支持与鼓励下,来自网络空间安全学院信息隐藏课题组的多位学生自由组队,参加了本次比赛。


本次赛事主题为深度学习对抗样本技术攻防,围绕对抗样本技术这一近年来受到广泛关注的深度学习热点问题展开。“对抗样本”的概念由Szegedy等人在2014年首次提出,通过对原始样本(如图片)有针对性的加入微小扰动来构造对抗样本,导致深度学习模型识别错误。本次比赛共分为无目标攻击(使目标图片被错判为正确类别之外的其他类)、有目标攻击(使目标图片被错判为正确类别之外的指定类)和模型防御(将对抗样本图片进行正确分类)三项内容,来自世界各地的2500余只队伍分项参赛。


比赛分为初赛与复赛两个阶段,历时三个月,最终由俞能海教授和张卫明教授指导的RNG战队与红小豆战队层层突围,取得了优异成绩。其中,RNG战队在模型防御项目中摘得桂冠!无目标和有目标攻击项目中分列第二和第四,是所有参赛队伍中综合成绩最好的队伍。红小豆战队在则模型防御与无目标攻击中分别取得了第四和第十二名的优秀成绩。


模型防御成绩

有目标攻击成绩

无目标攻击成绩

当前的对抗样本技术仍处于学术研究阶段,为了让该项技术能够有效应用于实际场景,本次比赛采用了阿里巴巴电商平台的商品图片作为数据集。主办方提供了11万张商品图片作为训练集,共包含110个类别,并使用550张图片作为评测数据。其中无目标攻击不指定具体类别,只要让模型识别错误即可,同时扰动越小越好。有目标攻击比无目标攻击更加困难,不仅需要使模型识别错误,还需要使模型将图片识别到指定的类别,同时扰动越小越好。模型防御则需要选手提供更加鲁棒的防御模型,能够正确识别对抗样本,同时处理的扰动越大越好。


这样的规则决定了参赛选手必须采用注重实际的策略,需要针对电商图片的特点进行对抗样本的攻防,并考虑到其他对手可能采用的防御手段而进行针对性攻击,这俨然是一场模拟的网络攻防战!1所示图片为RNG战队无目标攻击方法的实际效果图,左图为原始商品图片,右图为经过修改后的对抗样本图片。可以看到二者在视觉效果上几乎无差异,这反映出我们所采用的方法在实现攻击的同时所进行的修改量是很小的。比赛采用的攻防算法将在赛事答辩完成后公布,敬请期待!

    

原始图像                                                       对抗样本图像

1. 无目标攻击示例图


经过不断的模拟攻防与方法改进,本次参赛的两支队伍在取得优秀的成绩的同时积累了宝贵的经验,并获得了前往IJCAI2019的举办地—澳门参加现场答辩的机会,祝贺取得佳绩的同学们,祝贺俞能海教授和张卫明教授指导的信息隐藏课题组,也预祝他们在今后的比赛与科研中能够斩获更丰硕的成果!



团队简介


指导老师:

俞能海,中国科学技术大学教授、博导,网络空间安全学院副院长、电子工程与信息科学系执行主任,教育部网络空间安全教学指导委员会副主任、国家重点研发计划项目首席科学家、中国云计算专家委员会委员及云安全组长,中国大数据专家委员会委员,中国图象图形学学会副理事长及多媒体取证与安全专家委员会主任委员。主要研究兴趣包括媒体内容安全、计算机视觉、信息隐藏等,已在国际学术期刊和会议发表论文330余篇。


张卫明,中国科学技术大学教授,博导,网络空间安全学院副院长,中国图象图形学学会多媒体取证与安全专家委员会副秘书长。主要研究兴趣包括媒体内容安全、信息隐藏和数据隐私保护。已在国际学术期刊和会议TITTIFSTIPTCSVTTMMTDSCTOMMCVPRINFOCOM等发表论文150多篇。解决了信息隐藏领域的3个基础编码问题,相关工作被该领域著名学者J.Fridrich教授以作者姓氏命名为ZZW构造,并被收录到剑桥大学出版的数字隐写经典教科书中。


参赛选手:

RNG战队:

刘嘉阳,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为对抗样本防御;

崔灏,中国科学技术大学网络空间安全学院硕士研究生,主要研究方向为屏射水印、对抗攻防;

董潇逸,中国科学技术大学网络空间安全学院硕士研究生,主要研究方向为对抗样本生成。


红小豆战队:

卞寰宇,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为对抗攻防与多媒体安全;

周航,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为3D信息隐藏与深度学习攻防;

周文柏,本文作者,中国科学技术大学网络空间安全学院博士后研究员,主要研究方向为信息隐藏与人工智能安全。