一、引言
多模态大模型安全检测系统（DeepCensor）是河南科技大学张志勇教授研究团队联合新华三集团，依托河南省网络空间安全应用国际联合实验室和河南省智能制造大数据发展创新实验室，针对新一代人工智能与多模态大模型面临的数据投毒、对抗攻击、模型窃取、后门攻击、提示注入、越狱攻击等安全问题，以及AIGC衍生的深度伪造内容安全与风险挑战，构建了涵盖大模型本体安全与生成式内容安全的多模态安全体系架构。自主研发了多模态大模型安全检测系统（DeepCensor），集成无差别数据投毒检测、思维链迁移对抗攻击检测、无数据模型窃取识别、动态视觉后门检测、提示注入攻防博弈、中文越狱检测、深度伪造图像、视频检测及溯源等核心功能，具有检测识别准确率高、底层架构兼容性强、广泛适配多类大模型等显著优势。
关键核心技术成果发表在IEEE TDSC、PR、ACM TOPS、Cybersecurity等国际**学术期刊，获得20余项授权发明专利，登记30余件计算机软件著作权，主持或参与制定6项人工智能领域国家标准（GB/T 45654-2025、GB/T 42450-2023）和团体标准。该系统V1、V2.0和V3.0版本已完成计算机软件著作权登记，并通过河南省电子信息产品质量检验技术研究院（河南省软件测评中心）的第三方鉴定测试，具备较强的工程适配性与成果转化前景。相关成果已在国内人工智能与大数据领域头部企业推广应用，破解了企业垂类大模型产品安全与治理难题，具有显著的经济效益和社会效益。DeepCensor成功入选2026中国网络安全产业联盟网络安全新技术新产品新服务（网安三新）榜单，荣获2025中国网络安全产业联盟网络安全优秀创新成果大赛优胜奖、2025“华为杯”第七届中国研究生人工智能创新大赛全国总决赛一等奖、2025“华秦杯”第四届网络安全创新大赛揭榜挑战赛二等奖等。该产品在第二十七届中国国际高新技术成果交易会参展并入选全国产教融合与科教融汇典型案例。
二、五大功能服务
DeepCensorV3.5版本重点迭代升级五大功能服务：（1）多模态对抗样本攻击检测能力评估；（2）无差别数据投毒攻击检测能力评估；（3）跨模态协同后门攻击检测能力评估；（4）多模态大模型越狱攻击防御能力评估；（5）无数据模型窃取攻击检测能力评估。
1、功能服务一：多模态对抗样本攻击检测能力评估
面向工业图文数据集及基于CLIP、CLIP ViT-L-14等视觉语言基座模型构建的工业多模态智能模型，DeepCensor V3.5提供多模态对抗样本攻击检测能力评估，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。系统无需获取目标模型内部参数和梯度信息，通过选取目标类别并配置评测参数，在图像与文本跨模态内容上协同构造对抗扰动，并对受影响的关键语义实施净化重构与语义恢复，结合净化 Top-K、净化后Top-K准确率及语义恢复曲线（净化过程锚点）等指标，量化分析模型在多模态对抗攻击下的鲁棒性与检测能力，自动输出评测结果、判定结论与风险等级。企业可据此评估多模态模型抵御对抗样本攻击的能力并定位跨模态输入脆弱点，获得风险样本定位、模型鲁棒性评估及安全加固建议，为工业多模态模型的上线验证、运行监测和安全防护提供依据。
多模态对抗样本攻击检测界面
多模态对抗样本攻击检测历史记录管理界面
2、功能服务二：无差别数据投毒攻击检测能力评估
面向基于SimCLR、MoCo等自监督对比学习框架预训练的工业图像编码器及其下游工业智能模型，DeepCensor V3.5 提供无差别数据投毒攻击检测能力，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。与面向指定类别的定向投毒不同，无差别数据投毒不限定攻击目标，而是通过在训练数据或预训练权重中植入扰动参数delta，使模型在下游任务中的整体性能发生退化。系统支持上传模型权重或直接选择服务器已训练模型，并配置下游评测数据集与锚点类别，通过对比干净模型基线与中毒模型基线，结合中毒精度、下游精度、锚点类别命中率及权重结构检测等指标，量化分析模型是否携带投毒扰动参数、下游精度是否显著下滑、锚点类别是否被异常命中，自动输出投毒/干净判定与风险等级。企业可据此发现自监督预训练模型及模型供应链中的无差别投毒风险，获得模型停用、训练数据与供应链溯源、干净数据重新训练，以及早停、干净数据微调、Fine-Pruning、知识蒸馏等防御修复建议，并对同批次模型进行复检，为工业编码器模型的上线评估、模型供应链安全和运行期防护提供支撑。
无差别数据投毒攻击检测界面
无差别数据投毒攻击检测历史记录管理界面
3、功能服务三：跨模态协同后门攻击检测能力评估
面向工业图像数据集及基于CLIP ViT-L视觉编码器、 LLaVA-v1.5-7B等多模态视觉问答模型构建的工业多模态智能模型，DeepCensor V3.5提供跨模态协同后门攻击检测能力，可用于工业缺陷识别、智能巡检、设备状态描述、视觉质检等应用场景。检测流程依次经过预处理、触发器定位、异常分析和结果融合，支持单张样本检测与批量数据集上传两种模式，通过配置风险等级阈值、检测信号规则与场景化提问模板模拟后门触发场景，结合周期能量、方向相干性、区域一致性等**度特征及ASR核心指标，精准定位图像可疑触发区域，综合评估后门攻击成功率与模型正常任务能力变化，判断模型是否存在“正常输入下表现稳定、特定触发条件下产生异常响应”的潜在后门风险并输出干净/中毒结论、可疑区域、风险等级及检测耗时。企业可据此发现图文训练数据及跨模态模型中的协同后门风险，获得异常样本排查、可疑区域定位、投毒数据清洗、可信数据源追溯及模型重新训练等安全加固建议，为工业多模态模型的训练安全、上线评估与可信部署提供支撑。
跨模态协同后门攻击检测界面
跨模态协同后门攻击检测历史记录管理界面
4、功能服务四：多模态大模型越狱攻击防御能力评估
面向基于Qwen-VL等视觉语言基座模型构建的工业多模态大模型及企业私有化模型，DeepCensor V3.5提供多模态大模型越狱攻击防御能力评估，可应用于工业图文问答、智能巡检报告生成、设备故障多模态诊断等典型场景。多模态越狱攻击通过在图像与文本指令中协同构造诱导性内容，利用跨模态语义关联绕过模型的安全对齐机制，诱导模型输出有害或违规内容。系统支持上传待检测图片并输入提问或攻击指令，或随机抽取测试样本，对本机及已接入的多模态模型发起受控越狱测试；通过构造原图、中心裁剪、随机裁剪及文本框探针等探针样本，结合文本框探针、空间探针**大比、平均因果比、**大因果比、像素扰动均值和语义偏移均值等指标，量化分析图像区域与文本指令之间的因果关联强度及模型的越狱倾向，判定模型是被诱导产生越狱攻击还是成功拒绝请求，并给出安全通过/越狱攻击结论、防御成功状态及检测耗时。企业可据此发现多模态模型在图像与文本协同诱导下的越狱风险和安全对齐薄弱环节，获得输入内容审查、跨模态安全对齐加固及模型安全微调等防御建议，为工业多模态大模型的上线评估与持续安全运行提供支撑。
多模态大模型越狱攻击防御检测结论界面
多模态大模型越狱攻击防御检测历史记录界面
5、功能服务五：无数据模型窃取攻击检测能力评估
面向工业图像数据集及基于ResNet等预训练图像分类模型构建的工业智能模型，DeepCensor V3.5提供无数据模型窃取攻击检测能力评估，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。无数据模型窃取攻击无需访问原始训练数据，通过集成克隆等手段构建学生模型对目标模型进行黑盒查询与功能逼近，从而窃取模型决策能力。系统支持选择被测模型与可疑克隆模型，配置CIFAR-10、FashionMNIST、NEU-CLS、Monkey等评测数据集及样本类别，通过对比被害模型与学生模型的顶部标签分布、预测准确率及行为一致性等指标，量化分析两模型的行为相似度，自动判定是否存在模型窃取并输出窃取预测结论与风险等级。企业可据此发现模型供应链中的窃取风险与知识产权安全隐患，获得模型访问控制、查询审计、模型水印及异常调用监测等安全加固建议，为工业智能模型的模型安全、上线评估与可信部署提供支撑。
无数据模型窃取攻击检测与评估界面
无数据模型窃取攻击检测历史记录界面
三、结束语
随着大语言模型、多模态大模型和图神经网络等人工智能技术加速进入工业生产、智能制造、设备运维和安全管理等核心业务场景，人工智能面临的安全风险也正由单一模型攻击，逐步向训练数据污染、模型后门、输入攻击、提示注入、图提示攻击以及生成内容越狱等全生命周期风险演进。多模态大模型安全检测系统（DeepCensor）V3.5 完成新一轮版本升级并取得软件著作权。DeepCensor V3.5 面向企业人工智能应用中的实际安全需求，在原有模型安全检测能力基础上，进一步强化安全检测、风险评估与主动防御能力，覆盖从训练数据、模型本体到模型输入与输出的关键安全环节，为工业人工智能模型上线前评测和运行期防护提供一体化技术支撑。
