9月24日，由河南科技大学牵头、新华三大数据技术有限公司和河南师范大学参与的2024河南省重点研发专项《多模态大模型安全检测与对抗防御关键技术研发及示范化应用》项目交流会，三家单位通过线上线下方式**召开。

会上，河南省网络空间安全应用国际联合实验室/河南省智能制造大数据发展创新实验室主任张志勇教授作为项目负责人，简要介绍了项目的基本任务和预期目标。他指出，该项目是河南省在大模型安全领域的**重点研发专项，旨在推动我省新一代人工智能的创新发展和安全治理，对促进大模型技术在各行业中的应用具有重要意义。

在项目进展汇报环节，实验室博士硕士研究生分别汇报了阶段性研究进展。博士生权高原围绕大语言模型提示注入攻击，重点汇报了提示注入攻防博弈方面的阶段性研究进展。博士生潘俊艳详细汇报了图像描述多模态大模型的隐形后门攻击研究进展。硕士生岳欣馨汇报了在大语言模型对抗样本攻击和越狱攻击研究进展，并阐述分析了中文语境下大语言模型越狱攻击的研究工作。

河南师范大学副教授荆军昌围绕“单一领域和跨领域的多模态大模型隐私计算关键技术研究”的课题分工任务，从隐私保护的角度，介绍了单一领域多模态大模型输入输出数据隐私保护技术的研究进展。

新华三大数据有限公司副总经理汪卫国、工程师史宁宁分别从大模型应用实践的角度，介绍了新华三“百业灵犀”大模型产品及“绿洲”数据安全治理的相关实践成果。

在项目实施交流环节，三家单位研究人员围绕各自课题分工展开了技术交流，就如何进一步加强技术协作、整合各自优势资源进行了深入探讨。三方将围绕多模态大模型的安全治理与隐私保护等关键技术研发及示范化应用，展开进一步产学研联合攻关，通过技术创新与资源共享，共同推动重点专项的顺利实施和技术成果的产业化应用。