AI鉴定师——真实场景人脸深度伪造视频鉴别

中科大战队荣获GeekPwn大赛年度极客榜第二名

由GeekPwn联合多家国内外人工智能权威企业举办的G-TOP年度极客榜单于2021年10月24日在上海展开现场评选，中国科学技术大学网络空间安全学院俞能海、张卫明教授团队的WM_Team战队凭借“AI鉴定师——真实场景人脸深度伪造视频鉴别”项目荣获年度第二名。

GeekPwn由国内顶尖信息安全团队碁震（KEEN）于2014年发起并主办，是全球最大关注智能生活的安全极客（黑客）大赛。自 2014 年创办以来，GeekPwn 已经成功在中国北京、上海、澳门、香港和美国硅谷、拉斯维加斯等多地举办，负责任地披露了上千个高危漏洞。在历届比赛中，从攻破智能手机、无人机、机器人、智能家居等智能产品，到 SSL/TLS 协议挑战专场、人工智能安全挑战专项，该项赛事曾获得“安全竞赛最具影响力奖”。

本次赛事报名队伍超过200余支，进入复赛的队伍20支，最终进入G-TOP年度极客榜单的仅有10支队伍。前三名分别为：奇安信天工实验室的“卧底打印机”，中国科大WM_Team的“AI鉴定师”，RealAI-清华大学联合战队TSAIL的“眼镜易容术”。这其中，中国科学技术大学网络空间安全学院的WM_Team战队是唯一一支完全由高校力量组成的队伍。

图1 WM_Team荣获G-TOP年度极客榜亚军

图2 GeekPwn年度极客榜前三名

此次比赛的最大特点是主办方未设置统一的赛题，各参赛队伍可以极大的发挥自己的优势，向公众展示日常生活中可能存在的安全问题和巧妙的解决方案。组委会评委将从“技术难度，实际价值，社会影响”等多个方面进行最终评分。此次WM_Team的参赛项目是对人脸深度伪造视频的鉴别。人脸深度伪造是近年来新兴的一类技术，通过深度学习算法，实现人脸视频的生成与伪造。这类技术目前已被广泛用于娱乐应用中，并开发了如DeepFaceLab等换脸软件。但这类技术的盛行也带来了极大的潜在风险，尤其是在政治、金融、公共安全等领域，一旦出现恶意伪造，如身份伪造、舆情煽动等，都将对国家和社会带来巨大危害，因此研究真实场景下有效的人脸深度伪造视频鉴别技术是迫在眉睫的。

王昱珩潘晓婷谈“AI换脸检测技术”：https://v.qq.com/x/cover/mzc00200ug8q12j/j0040xacwlu.html

遇到换脸视频，潘晓婷王昱珩如何鉴别？https://v.qq.com/x/cover/mzc00200ug8q12j/n0040pzg9fm.html

整个比赛分为“线上真人秀《我是极客》安全极客挑战节目”和“线下1024极棒之夜”两个阶段。在10月15日播出的《我是极客》第一期节目中，中国科大WM_Team战队的挑战任务是在5分钟内完成100段由主办方技术专家精心准备的视频集检测。

图3 WM_Team参赛队员

而在现场踢馆赛中，挑战视频数量增至500个，对检测准确率又有着更高的要求，最终WM_Team踢馆成功，成为唯一一支在现场踢馆赛中成绩提升的队伍，最终荣获第二名。

图4 WM_Team现场踢馆赛挑战成功

中国科大WM_Team战队2020年曾在Facebook、MIT等组织的全球最大规模的“深度伪造检测挑战赛（DFDC）”获得全球亚军（国内最好成绩），赢得30万美元奖金，并且相关成果被中国信通院评为2014年以来人工智安全领域的8项中国创新成果之一。

战队所在的俞能海和张卫明教授的课题组长期从事多媒体安全与AI安全的相关研究，近年来，在对抗样本、深度学习模型保护、深度伪造与检测等方向取得了一系列成果，在该领域的顶会顶刊TPAMI、CVPR、AAAI、ICCV等发表了多篇高水平论文，并在2019年人工智能顶会IJCAI-Alibaba人工智能算法对抗赛获得防御赛冠军和非定向攻击亚军。本次G-TOP年度极客大赛取得的优异成绩将进一步扩大我校在人工智能安全领域的影响。