新闻中心
新闻中心

当前位置:首页 / 新闻中心 / 实验室动态 / 正文

HAUST-HNU大模型与安全联合研究团队第14期组会召开

2024-09-02

9月1日,HAUST-HNU大模型与安全联合研究团队第14期组会在线召开。本次组会主题是多模态大模型的提示注入攻击和后门攻击研究。会议由河南师范大学荆军昌副教授主持。

河南科技大学2024级博士研究生权高原以《大语言模型提示注入攻击研究进展》为题做汇报交流。本次汇报主要分为两个部分,**部分回顾了整体的预研思路,以一种基于提示注入漏洞列表的大语言模型威胁识别框架为题,拟从LLM提示注入攻击的标准定义、分类,构建LLM提示注入攻击的攻击路径图,构建LLM提示注入攻击漏洞列表,提出提示注入攻击威胁识别框架四个步骤展开研究。第二部分详细介绍了LLM提示注入攻击的标准定义、分类和攻击路径图的研究进展。


河南科技大学2024级博士生潘俊艳汇报了《针对图像描述多模态大模型的隐形后门攻击》的研究进展。汇报内容分为研究背景、研究内容和下一步研究计划三个部分,研究背景主要讲述了目前关于多模态大模型后门攻击的研究现状,研究内容部分主要包括威胁模型的攻击能力和攻击目标、针对现有后门触发器的不足提出了样本特定的动态触发器和实验设计思路,下一步工作计划主要讲述了关于研究内容的完善思路和对比实验内容的细化。


在交流环节,与会成员主要针对研究进展中的不明之处展开了热烈的讨论,为论文的下一步研究工作提出了具体的建议和方法。

微信扫码分享