您当前的位置:网站首页 > 高校驿站 > 校园传真 >

网信院陈晓峰教授团队研究成果被国际顶会录用

2022-11-24 09:06  来源:西安电子科技大学  字号:T|T

近日,计算机图形学与多媒体领域国际顶级会议The 30th ACM International Conference on Multimedia(ACM MM 2022)在葡萄牙里斯本举行,该会议被中国计算机学会(CCF)列为A类会议。网信院陈晓峰教授团队的最新研究成果“Purifier: Plug-and-play Backdoor Mitigation for Pre-trained Models Via Anomaly Activation Suppression” 被会议论文集收录,并作大会报告。

该研究成果第一作者为西电睿云数据安全团队张肖瑜副教授,曾获2020年中国中文信息学会拓尔思优秀博士论文奖。

该论文聚焦于深度学习预训练模型中的后门防御工作。后门攻击通常发生在非完全受控的训练过程场景,给预测模型的安全性造成潜在威胁。本文提出基于异常激活抑制的后门防御方法Purifier。从模型中间层特征表示给出预训练模型在面对后门样本和干净样本的可视化差异表现,直观揭示了后门样本在中间层表征出现异常图式的本质问题,进一步通过动态优化更新细粒度单元所对应的权值达到抑制神经元异常激活的效力,从而抵御多种未知类型后门攻击。对比现有SOTA后门防御方法,Purifier无需访问原始预训练数据且仅要求使用少量(约1%)下游任务干净数据,在6种主流攻击上的实验结果表明Purifier具有高效性、适用性强和可解释性等优点。此外,Purifier具有即插即用特性,灵活适配于任何网络结构的预训练模型,解决了后门防御工作常见的算法复杂度高且算法适配单一等问题。

Purifier 框架

近年来,网络与信息安全学院积极开拓安全交叉领域,鼓励学院师生以兴趣为原动力,积极探索新兴研究领域。该成果是睿云数据安全团队在人工智能安全领域取得的重要成果之一,助力学院科研全面发展。

论文链接:https://dl.acm.org/doi/pdf/10.1145/3503161.3548065

    相关文章
    空间·网信合唱团开展“瑞金之星”合唱节首场排练

    为深入学习宣传贯彻党的二十大精神,把全校团员青年的思想统一到党的二十大精神上来,把力量凝聚到党的二十大确定的各项任务上来。学校举行“学习二十大、永远跟党走、奋进新征程”第六届“瑞金…[阅读]

    网信院本科第四党支部开展“我与新时代”主题党日活动

    为深入学习贯彻党的二十大精神,10月28日晚,网信院本科第四党支部通过线上会议方式开展“我和新时代”主题党日活动。本次活动由支部书记何良主持,支部全体党员与预备党员参加了本次活动。 首…[阅读]

    网信院睿云数据安全导学第三党支部召开“严守纪律规矩、加强作风建设”专题组织生活会

    9月29日下午,网络与信息安全学院睿云数据安全导学第三党支部在网安大楼A-0120室召开“严守纪律规矩、加强作风建设”专题组织生活会。会议由支部书记徐巧珥主持。 会上,参会党员逐一进行问题查…[阅读]

    网信院陈晓峰教授团队研究成果被国际信息安全顶会录用

    第29届国际信息安全顶会ACM Conference on Computer and Communications Security(ACM CCS 2022)将于11月7日在美国洛杉矶召开。网信院陈晓峰教授团队的最新研究成果“Practical Volume-Hiding E…[阅读]

    网信院顺利开展2022级研究生迎新工作

    金秋时节,又是一年迎新季。9月13日,网络与信息安全学院迎来了2022级研究生新生。 本次迎新接待点设在丁香14号楼室外,为确保迎新工作有序进行,工作人员提前进行了周密准备。随着新生陆续到来…[阅读]