• 项目基本信息：

多模态大模型安全检测与对抗防御关键技术研发及示范化应用（河南省重点研发专项项目，NO.241111211400，河南省科学技术厅，2024.01-2026.12），120万，负责人：张志勇，2023年立项

• 项目摘要：

本项目围绕多模态大模型与生成式人工智能的安全和隐私风险问题，重点研究多模态生成式大模型攻击方法、检测技术和对抗防御机制，以及单一领域输入/输出数据的隐私保护机制和跨领域输出数据的隐私计算等关键技术，开发**度、一体化、跨领域的多模态大模型与通用人工智能应用安全检测产品，支持多模态大模型和生成式人工智能应用服务、中间件与基础依赖组件等对象的安全漏洞检测与及时预警，解决大数据行业智慧城市、智慧教育等多种应用场景，满足多行业应用创新的多模态大模型安全与隐私风险难题，打牢稳定、可信、可控的人工智能安全底座，推动通用人工智能和多模态大模型安全应用与可持续发展。