新闻中心
新闻中心

当前位置:首页 / 新闻中心 / 实验室动态 / 正文

HAUST-HNU大模型与安全联合研究团队第26期组会召开

2025-06-17

2025年6月15日,HAUST-HNU大模型与安全联合研究团队第26期组会在线召开。本次组会主题是基于噪声转移矩阵的高效模型窃取防御和对抗人脸交换双重防御。

河南科技大学2023级硕士研究生高云龙汇报了《Efficient Model Stealing Defense with Noise Transition Matrix》。该论文了使用一种有效的方法,可以通过线性映射将噪声注入预测的概率,同时为良性用户保留实用性;提出了一种双层优化方法,该方法交替优化它并更新替代网络权重。本文通过将其**应用于窃取防御模型的模型,重新审视噪声转移矩阵。这将攻击者的克隆过程恶化为等同于嘈杂标签的训练,阻碍了攻击者模型的学习。为了优化转移矩阵,本文提出的新颖的双层优化训练框架,融合了对受害者模型的置信度训练,并为替代模型进行了对抗性训练。在各种攻击方案下的实验结果表明,与当前**新方法相比,本文提出的防御方法的有效性和鲁棒性,通过**小的公共资源权衡取得了强大的防御。

图片6.png

河南科技大学2023级硕士研究生宋传沛汇报了来自《IEEE Transactions on Information Forensics and Security》的关键高水平文献《双重防御:对抗人脸交换的对抗性、可追踪性和不可见性鲁棒水印》。本次汇报主要分为四个部分,**部分介绍了该文献的背景知识,现有的深伪主动防御研究仅实现了可追溯性和对抗性其中之一。第二部分详细介绍了该文献提出的研究思路和方法模型。第三部分详细介绍该文献的实验过程及结果并进行了详细的分析研究。第四部分总结了该文献的主要贡献和局限性,并与自己的研究内容相结合,开拓思路。

图片7.png

在交流环节,与会成员主要针对文献的研究思路、创新点及不明之处展开了热烈的讨论,为下一阶段课题研究提供了新思路。

(图文/高云龙、宋传沛 审核/权高原)

微信扫码分享