多模态大模型安全检测系统是河南科技大学网络空间安全应用国际联合实验室自主研发的面向生成式人工智能和多模态大模型安全和隐私保护的软件产品。
多模态大模型安全检测系统致力于为用户的大模型应用提供专业的“多模态大模型安全防护”服务，帮助用户在复杂多变的应用环境中更好地保障模型的安全性和可靠性。系统以多模态模型内生安全和内容安全检测为核心，通过多重检测机制，有效检测模型潜在的安全威胁和违法、歧视或侵权等内容的生成。系统还提供多模态输入输出的全面安全评估服务，覆盖文本、图像和视频等多种输入类型，评估模型在不同输入场景下的安全表现。
