近日，实验室自主研发的多模态大模型安全检测系统（DeepCensor）通过第三方测评，为该系统进一步扩大推广应用提供了重要支撑。
DeepCensor是面向人工智能发展与治理重大战略，针对多模态大模型安全防护能力不足、AIGC深度伪造内容泛滥、系统级防控体系不完备等挑战，从攻击识别准确率低、泛化性能差、安全漏洞检测能力弱、深度伪造内容难以甄别等痛点难点入手，依托实验室攻克提出的多模态大模型面临的数据投毒攻击、对抗样本攻击、模型窃取攻击、后门攻击、提示注入攻击和深度伪造生成内容等多模态大模型内生安全和内容安全等关键核心技术，提供了面向多模态大模型的“检测-评估-防御-治理”闭环解决方案，为推动和实现人工智能安全可靠可控，提供了关键技术和产品支撑。
