日前，河南省网络空间安全应用国际联合实验室/河南省智能制造大数据发展创新实验室申报的《多模态大模型安全检测与对抗防御关键技术研发及示范化应用》项目，获批2024年度河南省重点研发专项资助。该项目由河南科技大学、新华三大数据技术有限公司、河南师范大学三家单位联合申报。实验室主任张志勇教授担任项目负责人。

该项目重点围绕多模态大模型与生成式人工智能的安全和隐私风险问题，重点研究多模态生成式大模型攻击方法、检测技术和对抗防御机制，以及单一领域输入/输出数据的隐私保护机制和跨领域输出数据的隐私计算等关键技术，开发多维度、一体化、跨领域的多模态大模型与通用人工智能应用安全检测产品，支持多模态大模型和生成式人工智能应用服务、中间件与基础依赖组件等对象的安全漏洞检测与及时预警，解决大数据行业智慧城市、智慧教育等多种应用场景，满足多行业应用创新的多模态大模型安全与隐私风险难题，打牢稳定、可信、可控的人工智能安全底座，推动通用人工智能和多模态大模型安全应用与可持续发展。

该项目是我省在大模型安全领域的首个重点研发专项，对促进我省新一代人工智能创新发展和安全治理起到积极推动作用。