9月15日,HAUST-HNU大模型与安全联合研究团队第15期组会在线召开。本次组会主题是针对CLIP的触发感知提示学习后门攻击和面向对比学习预训练编码器的投毒攻击研究。会议由河南师范大学荆军昌副教授主持。
河南科技大学2023级硕士研究生汤思敏汇报了来自《Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition》的关键高水平文献《BadCLIP:Trigger-Aware Prompt Learning for Backdoor Attacks on CLIP》。本次汇报主要分为三个部分,**部分介绍了该文献的研究背景,目前CLIP模型虽然在面向下游任务时表现出较好的性能,但仍存在遭受后门攻击的风险。第二部分详细介绍该文献的创新点和研究思路,对其方法设计、实验过程及结果进行了详细的分析研究。第三部分总结了该文献的贡献和局限性。
河南科技大学2023级硕士生胡奥迪汇报了以《面向对比学习预训练编码器的投毒攻击》为题的相关研究进展。本次汇报分为两个部分,**部分为研究思路回顾,面向对比学习预训练编码器的投毒攻击,以对比学习、多模态编码器以及投毒攻击方法展开介绍。第二部分为研究内容进展,介绍根据来自高水平关键文献关于预训练编码器投毒攻击方法的设计,总结学习投毒攻击方法之间的联系,投毒攻击方法的模型设计以及攻击实验的过程。
在交流环节,与会成员主要针对文献的研究思路、创新点及不明之处展开了热烈的讨论,为下一阶段课题研究提供了新思路。