一、引言

       多模态大模型安全检测系统（DeepCensor）是河南科技大学张志勇教授研究团队联合新华三集团，依托河南省网络空间安全应用国际联合实验室和河南省智能制造大数据发展创新实验室，针对新一代人工智能与多模态大模型面临的数据投毒、对抗攻击、模型窃取、后门攻击、提示注入、越狱攻击等安全问题，以及AIGC衍生的深度伪造内容安全与风险挑战，构建了涵盖大模型本体安全与生成式内容安全的多模态安全体系架构。自主研发了多模态大模型安全检测系统（DeepCensor），集成无差别数据投毒检测、思维链迁移对抗攻击检测、无数据模型窃取识别、动态视觉后门检测、提示注入攻防博弈、中文越狱检测、深度伪造图像、视频检测及溯源等核心功能，具有检测识别准确率高、底层架构兼容性强、广泛适配多类大模型等显著优势。

       关键核心技术成果发表在IEEE TDSC、PR、ACM TOPS、Cybersecurity等国际**学术期刊，获得20余项授权发明专利，登记30余件计算机软件著作权，主持或参与制定6项人工智能领域国家标准（GB/T 45654-2025、GB/T 42450-2023）和团体标准。该系统V1、V2.0和V3.0版本已完成计算机软件著作权登记，并通过河南省电子信息产品质量检验技术研究院（河南省软件测评中心）的第三方鉴定测试，具备较强的工程适配性与成果转化前景。相关成果已在国内人工智能与大数据领域头部企业推广应用，破解了企业垂类大模型产品安全与治理难题，具有显著的经济效益和社会效益。DeepCensor成功入选2026中国网络安全产业联盟网络安全新技术新产品新服务（网安三新）榜单，荣获2025中国网络安全产业联盟网络安全优秀创新成果大赛优胜奖、2025“华为杯”第七届中国研究生人工智能创新大赛全国总决赛一等奖、2025“华秦杯”第四届网络安全创新大赛揭榜挑战赛二等奖等。该产品在第二十七届中国国际高新技术成果交易会参展并入选全国产教融合与科教融汇典型案例。

二、16种功能服务

       DeepCensorV3.5版本重点迭代升级16种功能服务：（1）黑盒对抗样本攻击检测；（2）多模态对抗样本攻击检测；（3）思维链对抗迁移攻击检测；（4）无差别数据投毒攻击检测；（5）多模态定向数据投毒攻击检测；（6）多目标数据投毒攻击检测；（7）隐形后门攻击检测；（8）跨模态协同后门攻击检测；（9）黑盒后门攻击检测；（10）跨模态提示注入检测与防御；（11）图提示注入攻击检测；（12）上下文提示注入攻击检测；（13）大模型越狱攻击防御；（14）多模态大模型越狱攻击防御；（15）中文越狱攻击检测；（16）无数据模型窃取攻击检测。

1、功能服务一：黑盒对抗样本攻击检测

       面向基于 BERT、ALBERT、RoBERTa 等经典模型构建的工业智能模型，DeepCensor V3.5提供黑盒对抗样本攻击检测能力，可应用于工业事故分类、设备故障诊断、安全生产文本分析等场景。系统无需获取目标模型内部参数和梯度信息，通过定位影响模型预测结果的高风险 Token，对关键内容实施掩码重构与语义扰动，并分析重构前后的预测结果、标签一致性和模型稳定性变化，自动识别潜在对抗样本，输出正常/异常判定、攻击成功率及综合风险等级。通过批量数据集评测与单样本精细分析，企业可快速发现工业模型的输入脆弱点和潜在攻击风险，获得风险样本定位、模型鲁棒性评估及安全加固建议，为工业智能模型的上线验证、运行监测和安全防护提供依据。

黑盒对抗样本攻击检测界面

黑盒对抗样本攻击检测预览报告界面

2、功能服务二：多模态对抗样本攻击检测

       面向工业图文数据集及基于CLIP、CLIP ViT-L-14等视觉语言基座模型构建的工业多模态智能模型，DeepCensor V3.5提供多模态对抗样本攻击检测能力评估，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。系统无需获取目标模型内部参数和梯度信息，通过选取目标类别并配置评测参数，在图像与文本跨模态内容上协同构造对抗扰动，并对受影响的关键语义实施净化重构与语义恢复，结合净化 Top-K、净化后Top-K准确率及语义恢复曲线（净化过程锚点）等指标，量化分析模型在多模态对抗攻击下的鲁棒性与检测能力，自动输出评测结果、判定结论与风险等级。企业可据此评估多模态模型抵御对抗样本攻击的能力并定位跨模态输入脆弱点，获得风险样本定位、模型鲁棒性评估及安全加固建议，为工业多模态模型的上线验证、运行监测和安全防护提供依据。

多模态对抗样本攻击检测界面

多模态对抗样本攻击检测预览报告界面

3、功能服务三：思维链对抗迁移攻击检测

       面向基于 BLOOM、GPT、T5、UL2 等大语言模型构建的工业智能模型，DeepCensor V3.5 提供思维链对抗迁移攻击检测能力，可应用于工业语义情感检测、工业语义推理检测等场景。系统无需获取目标模型内部参数和梯度信息，通过定位思维链中高风险可疑词，对原文实施语义矫正与信号对比分析，并分析原文与矫正重建文本的 PPL、预测结果变化，自动识别思维链对抗迁移攻击样本，输出风险分、判定结果、风险等级、攻击类型猜测及可疑词数。通过批量数据集评测与单样本精细分析，企业可快速发现大模型在思维链推理场景下的输入脆弱点和潜在迁移攻击风险，获得风险样本定位、模型鲁棒性评估及安全加固建议，为大模型工业场景的上线验证、运行监测和安全防护提供依据。

思维链对抗迁移攻击检测界面

思维链对抗迁移攻击检测预览报告界面

4、功能服务四：无差别数据投毒攻击检测

       面向基于SimCLR、MoCo等自监督对比学习框架预训练的工业图像编码器及其下游工业智能模型，DeepCensor V3.5 提供无差别数据投毒攻击检测能力，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。与面向指定类别的定向投毒不同，无差别数据投毒不限定攻击目标，而是通过在训练数据或预训练权重中植入扰动参数delta，使模型在下游任务中的整体性能发生退化。系统支持上传模型权重或直接选择服务器已训练模型，并配置下游评测数据集与锚点类别，通过对比干净模型基线与中毒模型基线，结合中毒精度、下游精度、锚点类别命中率及权重结构检测等指标，量化分析模型是否携带投毒扰动参数、下游精度是否显著下滑、锚点类别是否被异常命中，自动输出投毒/干净判定与风险等级。企业可据此发现自监督预训练模型及模型供应链中的无差别投毒风险，获得模型停用、训练数据与供应链溯源、干净数据重新训练，以及早停、干净数据微调、Fine-Pruning、知识蒸馏等防御修复建议，并对同批次模型进行复检，为工业编码器模型的上线评估、模型供应链安全和运行期防护提供支撑。

无差别数据投毒攻击检测界面

无差别数据投毒攻击检测预览报告界面

5、功能服务五：多模态定向数据投毒攻击检测

面向工业图文数据集及基于CLIP基座模型构建的工业多模态智能模型，DeepCensor V3.5提供多模态定向数据投毒攻击检测能力，可应用于工业视觉质检、设备状态识别、智能巡检等典型场景。系统采用跨模态定向攻击评测方法，通过设置源类别、目标类别、投毒预算和投毒比例，模拟训练数据受到定向污染后的模型行为，并结合ASR@1/5/10、平均**小排名及文本/图像检索性能等指标，量化分析CLIP模型在数据投毒攻击下的安全风险与任务效用变化，自动生成风险等级和评测结论。企业可据此发现工业图文训练数据中的定向投毒风险和跨模态关联脆弱点，并获得异常数据清洗、训练数据审计、可信数据源追溯及模型重新训练等安全建议，为工业多模态模型的训练安全、上线评估和模型供应链安全提供支撑。

多模态定向数据投毒攻击检测界面

多模态定向数据投毒攻击检测查看检索效用界面

多模态定向数据投毒攻击检测预览报告界面

6、功能服务六：多目标数据投毒攻击检测

       面向基于 ResNet18 等图像分类模型构建的工业视觉智能模型，DeepCensor V3.5 提供多目标数据投毒攻击训练与风险评测能力，可应用于工业元件质检、自动驾驶标识识别、安防异常行为识别等图像分类场景。系统支持 CIFAR-10、CIFAR-100、Tiny-ImageNet 等内置数据集与自定义数据集上传，可配置攻击方法、目标类别数（X）、投毒率、随机种子、训练轮次等参数，依托 A2X、GDB-A2X 及难度感知预算分配（DA）机制，依次完成干净代理模型训练、目标映射生成与中毒模型训练，输出 ASR 攻击成功率、中毒模型干净精度（CA）、干净参考精度及精度下降幅度等指标，辅助判断数据集或模型是否遭受数据投毒。通过批量数据集评测与参数可调的对照实验，企业可快速发现视觉模型在数据集训练阶段的投毒脆弱点与潜在后门风险，获得风险判定、模型鲁棒性评估及安全加固建议，并支持查看历史记录、下载检测报告，为工业视觉智能模型的上线验证、供应链投毒风险审计、运行监测与安全防护提供依据。

多目标数据投毒攻击检测界面

多目标数据投毒攻击检测预览报告界面

7、功能服务七：隐形后门攻击检测

       面向工业图像数据集及基于BLIP、BLIP-2、ViT-GPT2等预置图像描述基座模型构建的工业智能模型，DeepCensor V3.5提供隐形后门攻击检测能力，可用于工业缺陷识别、智能巡检、设备状态描述等应用场景。系统通过配置攻击目标与触发条件，构造受控后门样本并开展模型微调测试，对比后门注入前后的模型输出，并结合ASR、BLEU-4、CIDEr等指标，综合评估后门攻击成功率及模型正常任务能力变化，判断模型是否存在“正常情况下表现稳定、特定触发条件下产生异常响应”的潜在后门风险。当前版本支持预置模型与适配数据集开展检测。针对企业基于上述基座模型训练的自有工业模型，可结合企业提供的预训练/训练数据集及实际业务任务进行数据接口重新适配，形成定制化检测服务，并提供后门风险定位、异常数据清洗、可信数据源追溯及模型重新训练等安全加固建议。

隐形后门攻击检测界面

隐形后门攻击检测预览报告界面

8、功能服务八：跨模态协同后门攻击检测

        面向工业图像数据集及基于CLIP ViT-L视觉编码器、 LLaVA-v1.5-7B等多模态视觉问答模型构建的工业多模态智能模型，DeepCensor V3.5提供跨模态协同后门攻击检测能力，可用于工业缺陷识别、智能巡检、设备状态描述、视觉质检等应用场景。检测流程依次经过预处理、触发器定位、异常分析和结果融合，支持单张样本检测与批量数据集上传两种模式，通过配置风险等级阈值、检测信号规则与场景化提问模板模拟后门触发场景，结合周期能量、方向相干性、区域一致性等**度特征及ASR核心指标，精准定位图像可疑触发区域，综合评估后门攻击成功率与模型正常任务能力变化，判断模型是否存在“正常输入下表现稳定、特定触发条件下产生异常响应”的潜在后门风险并输出干净/中毒结论、可疑区域、风险等级及检测耗时。企业可据此发现图文训练数据及跨模态模型中的协同后门风险，获得异常样本排查、可疑区域定位、投毒数据清洗、可信数据源追溯及模型重新训练等安全加固建议，为工业多模态模型的训练安全、上线评估与可信部署提供支撑。

跨模态协同后门攻击检测界面

跨模态协同后门攻击检测预览报告界面

9、功能服务九：黑盒后门攻击检测

       面向基于 BadNet 等范式构建的图像分类工业智能模型，DeepCensor V3.5 提供黑盒后门攻击检测能力，可应用于数字识别、图像分类、工业视觉识别等场景。系统无需获取目标模型内部参数与梯度信息，支持 MNIST、CIFAR10 预置模型与自定义模型权重上传，可配置参考样本注入比例，依托特征反差融合预测机制，通过加载模型、选取参考样本、融合推理、风险评估的流程开展检测，输出一致性分、检测结论、融合预测结果等指标，识别模型中隐藏的后门触发器。通过单样本精细检测与历史任务回溯，企业可快速发现图像分类模型存在的后门隐患，获得后门风险判定、模型鲁棒性评估及安全加固建议，为工业视觉智能模型的上线验证、运行监测和安全防护提供依据。

黑盒后门攻击检测界面

黑盒后门攻击检测预览报告界面

10、功能服务十：跨模态提示注入检测与防御

       面向工业多模态大模型以及通过OpenAI/Ollama兼容接口接入的企业智能模型，DeepCensor V3.5可部署为大模型输入侧安全防御网关，对进入模型的真实业务请求进行实时监测、风险识别和在线拦截，并支持文本、图片 OCR、音频 ASR 等跨模态输入。系统通过规则图推理、语义判官与Stackelberg均值场博弈防御策略，识别直接提示注入、间接提示注入、系统指令覆盖、越狱规避及敏感数据外传等风险，并依据风险等级自动执行放行、安全改写、软拦截或直接拦截，同时记录风险得分、命中策略、防御动作及实际转发内容，实现全过程安全审计与流量溯源。在兼容接口条件下，企业可通过安全网关快速接入现有模型服务，降低原有业务系统改造成本，实现模型调用流量的实时安全防护；同时可通过裸模型ASR与过网关ASR对比量化防御效果，为工业大模型持续运行建立输入侧在线安全屏障。

跨模态提示注入检测与防御总览界面

跨模态提示注入攻击检测资产中心界面

 跨模态提示注入攻击检测沙箱界面

跨模态提示注入攻击检测防御网关界面

跨模态提示注入攻击检测博弈策略界面

11、功能服务十一：图提示注入攻击检测

       面向工业过程数据、设备关系网络、工业知识图谱等构建的图数据，以及基于GCN、GAT、TransformerConv等图神经网络训练的工业智能模型，DeepCensor V3.5重点评估模型在训练、微调及图提示工程应用过程中面临的图提示注入安全风险。系统通过模拟在图提示中注入恶意节点、恶意边或触发子图，测试攻击者是否能够借助被污染的图提示，诱导模型将指定设备状态、故障类型或目标节点错误预测为预设类别，并综合Clean ACC、攻击成功率（ASR）、预测翻转率和置信度变化等指标，量化分析图模型受到提示注入攻击后的安全性与稳定性。企业可据此发现图提示构造、图数据处理及模型训练环节中的潜在攻击入口和安全脆弱点，获得提示数据审查、异常节点/子图排查以及模型安全加固建议，为工业知识图谱、设备关系模型等图智能应用的上线前安全评测和可信部署提供依据。

图提示注入攻击检测界面

图提示注入攻击检测预览报告界面

12、功能服务十二：上下文提示注入攻击

       面向基于 TransformerConv 等编码器构建的多模态工业智能模型，DeepCensor V3.5 提供上下文提示注入攻击检测能力，可应用于图文联合识别、工业多模态信息理解、文档图文解析等场景。系统支持 CiteSeer 内置数据集与自定义数据集上传，可配置图编码器、注入模态、目标类别、防御方式、测试模式等参数，通过进化搜索收敛、预测分布迁移分析、上下文注入可视化等分析手段，输出定向攻击成功率 ASR、干净精度 Clean ACC、CAD、Flip Rate、Prompt 相似度等跨模态攻击指标，自动识别上下文提示注入带来的安全风险。通过批量数据集评测与单样本明细分析，支持检测报告下载与导出 JSON 结果，企业可快速发现多模态模型在提示输入环节的注入脆弱点，获得风险判定、模型鲁棒性评估及安全加固建议，为工业多模态智能模型的上线验证、运行监测和安全防护提供依据。

上下文提示注入攻击界面

上下文提示注入攻击预览报告界面

13、功能服务十三：大模型越狱攻击防御

       面向工业大模型、企业私有化大模型，以及基于Qwen、Vicuna等基座模型构建的行业智能模型，DeepCensor V3.5提供大模型越狱检测与防御能力，重点构建部署于模型推理输出与业务交付之间的输出侧安全防线，与跨模态提示注入的输入侧安全防御形成互补。系统对目标模型生成响应开展安全分析，通过有害意图反推、语义有害性检测和安全响应二次生成，识别因角色伪装、安全**绕过、社会工程诱导等越狱攻击产生的不安全内容，并在响应进入业务交付链路前实施风险识别、阻断或安全改写，降低模型安全机制被绕过后产生风险输出的可能性。除单次检测与安全评测外，DeepCensor V3.5还可根据企业实际业务需求，定制封装为大模型越狱防御网关，对模型输出流量进行实时监测、风险识别和在线拦截，与跨模态提示注入检测与防御功能共同形成“输入侧防提示注入、输出侧防越狱风险”的双向安全防护体系，为工业大模型安全上线与持续运行提供保障。

     大模型越狱攻击防御界面 

大模型越狱攻击防御预览报告界面

14、功能服务十四：多模态大模型越狱攻击防御

       面向基于Qwen-VL等视觉语言基座模型构建的工业多模态大模型及企业私有化模型，DeepCensor V3.5提供多模态大模型越狱攻击防御能力评估，可应用于工业图文问答、智能巡检报告生成、设备故障多模态诊断等典型场景。多模态越狱攻击通过在图像与文本指令中协同构造诱导性内容，利用跨模态语义关联绕过模型的安全对齐机制，诱导模型输出有害或违规内容。系统支持上传待检测图片并输入提问或攻击指令，或随机抽取测试样本，对本机及已接入的多模态模型发起受控越狱测试；通过构造原图、中心裁剪、随机裁剪及文本框探针等探针样本，结合文本框探针、空间探针**大比、平均因果比、**大因果比、像素扰动均值和语义偏移均值等指标，量化分析图像区域与文本指令之间的因果关联强度及模型的越狱倾向，判定模型是被诱导产生越狱攻击还是成功拒绝请求，并给出安全通过/越狱攻击结论、防御成功状态及检测耗时。企业可据此发现多模态模型在图像与文本协同诱导下的越狱风险和安全对齐薄弱环节，获得输入内容审查、跨模态安全对齐加固及模型安全微调等防御建议，为工业多模态大模型的上线评估与持续安全运行提供支撑。

多模态大模型越狱攻击防御界面

多模态大模型越狱攻击防御检测预览报告界面

15、功能服务十五：中文越狱攻击检测

       面向兼容 OpenAI 接口的大语言模型，DeepCensor V3.5 提供中文越狱攻击检测能力，可应用于大模型内容安全审核、智能问答、工业文本大模型等场景。系统支持本地模型、通义、DeepSeek、vLLM、Ollama 等模型接入，可配置模型地址、温度、**大 Token 等参数，支持单条提示词检测与批量检测两种模式，可开启提示词前置风险评估，依托规则与 Qwen3Guard 语义裁判对中文越狱提示进行风险判别。通过逐条检测、结果留存与历史记录回溯，企业可快速识别大模型面临的中文提示越狱攻击，获得越狱风险判定、模型安全能力评估及安全加固建议，为大语言模型的上线验证、运行监测和内容安全防护提供依据。

中文越狱攻击界面

中文越狱攻击检测预览报告界面

16、功能服务十六：无数据模型窃取攻击检测

       面向工业图像数据集及基于ResNet等预训练图像分类模型构建的工业智能模型，DeepCensor V3.5提供无数据模型窃取攻击检测能力评估，可应用于工业视觉质检、设备缺陷识别、智能巡检等典型场景。无数据模型窃取攻击无需访问原始训练数据，通过集成克隆等手段构建学生模型对目标模型进行黑盒查询与功能逼近，从而窃取模型决策能力。系统支持选择被测模型与可疑克隆模型，配置CIFAR-10、FashionMNIST、NEU-CLS、Monkey等评测数据集及样本类别，通过对比被害模型与学生模型的顶部标签分布、预测准确率及行为一致性等指标，量化分析两模型的行为相似度，自动判定是否存在模型窃取并输出窃取预测结论与风险等级。企业可据此发现模型供应链中的窃取风险与知识产权安全隐患，获得模型访问控制、查询审计、模型水印及异常调用监测等安全加固建议，为工业智能模型的模型安全、上线评估与可信部署提供支撑。

无数据模型窃取攻击检测与评估界面

无数据模型窃取攻击检测预览报告界面

三、典型应用场景

1、场景一：工业视觉安全检测与智能体任务编排场景

       当前，新一代人工智能技术正加速向智能制造领域深度融合，AI赋能人机物交互协同已成为推动工业智能化转型升级的关键范式。在这一前沿应用生态中，操作人员（人）、具身智能与自动化检测设备（机）以及工业生产对象（物）打破了传统的物理与数字边界，实现了基于多模态大模型的自主化协同作业。然而，这种高度智能化的“人机物”融合链路，也对系统的内生安全与控制指令防护提出了**的严苛要求。为了确保每一次物理空间交互的绝对可靠，DeepCensor V3.5 将多模态大模型安全防护机制，无缝嵌入到了工业智能体从任务输入、模型推理到设备物理执行的全过程。通过构筑起坚实的安全底座，系统不仅保障了生产业务的连续性，更为工业视觉模型上线验证、智能体安全运行和制造业务持续风险治理提供了一体化支撑。

AI赋能人机物交互协同工作应用场景

       面向关键零部件质量检测、智能制造产线巡检及具身智能机器人任务执行等典型工业场景，DeepCensor V3.5提供工业视觉安全检测与智能体任务编排能力，将多模态大模型安全防护嵌入工业智能体从任务输入、模型推理到设备执行的全过程。系统支持通过文本或语音向宇树G1机器人下发轴承、螺母、螺纹件、齿轮等零部件检测任务，并对接实验室工业智能体驱动的关键零部件视觉检测平台；在模型调用前，由跨模态提示注入防御网关对任务指令进行风险识别，根据检测结果执行放行、安全改写或拦截，防止关闭安全保护、突破作业边界、解除力**等危险指令进入目标模型；在模型生成响应后，由大模型越狱防御模块开展有害意图反推、语义安全判定与安全回答重生成，避免不安全模型输出进入工业控制链路。系统进一步融合输入风险、输出风险、命中策略和处置结果形成综合风险值、风险等级、分析结论及处置建议，仅允许通过双重安全校验的任务进入基座大模型推理与规划，并依次执行机械臂定位、工业相机采集、缺陷检测、图文大模型分析、解决方案生成和脚本解析整理等工作流程；同时统一汇聚提示注入流量审计和越狱防御检测记录，形成可查询、可追踪、可复核的完整安全证据链，为工业视觉模型上线验证、智能体安全运行和制造业务持续风险治理提供一体化支撑。

工业视觉安全检测与智能体任务编排场景界面

输入输出双层安全检测与综合风险研判界面

工业视觉检测工作流与统一审计记录界面

2、场景二：工业控制系统安全检测场景

       当前，工业大模型与智能体技术正加速向工业互联网与核心生产控制领域纵深演进，AI驱动的产线智能调度与工控系统自主协同已成为新型工业化的核心引擎。在这一深度融合的工业控制生态中，产线控制智能体通过自然语言交互与多模态感知，直接对接PLC/HMI工控系统、数控机床、机械臂与AGV小车等底层执行单元，实现了从高层语义指令到物理产线动作的端到端自动化闭环。然而，由于工业控制场景直接关联高价值生产设备与重大工艺流程，一旦控制指令遭受恶意提示注入或越权篡改，极易引发工艺参数偏移、安全联锁失效甚**产线停摆等严重生产安全事故。为了筑牢工业控制系统的安全防线，DeepCensor V3.5 将跨模态提示注入统一建模与博弈对抗防御机制（CM-PIUG）深度嵌入智能体下发指令与工控系统执行之间，对产线调度指令与场景数据实施全链路安全校验。通过构建面向工业控制指令的实时安全屏障，系统有效阻断了指令覆盖与越权操作向物理产线蔓延，为工控智能体安全上线、自动化产线可靠运行和智能制造持续风险治理提供了一体化支撑。

       面向5G+智能制造生产线仿真、先进制造自动化生产线及工业互联网工控系统等典型工业场景，DeepCensor V3.5 提供工业控制系统安全检测与智能体控制指令防护能力，将多模态大模型安全防护嵌入工控智能体从人机交互输入、语义规则协同研判到网关处置下发的全过程。系统全面覆盖两类核心工业产线：一是以原料库、匀浆、涂布、辊压、分条、烘烤、卷绕、装配、化成、分容、分选及成品库为核心的5G+智能制造生产线应用场景；二是涵盖物料库、上料机、机械臂、数控机床、皮带、标签机、废料盒、成品库、AGV小车及PLC/HMI工控系统的先进制造自动化生产线应用场景。在智能体人机交互环节，系统支持选择预置场景控制指令或输入自然语言控制指令，并通过接入输入侧安全网关绑定 Qwen2.5 VL 7B 等多模态目标模型；在控制指令进入产线执行前，依托智算中心与 H3C LinSeer MegaCube 算力底座，调用 CM-PIUG 跨模态提示注入检测服务，灵活配置语义检测层、LLM判官与系统上下文约束，对下发指令开展实时安全检测，精准识别并阻断“提示注入诱导非法规程/危险指令”、“指令覆盖篡改工艺参数/绕过联锁”以及“越权调度AGV与机械臂/越权启停设备”等高危攻击行为。系统进一步融合注入判定、风险分数、触发规则条数和检测耗时等**指标，自动生成场景风险评分、综合研判结论及处置建议；同时统一汇聚两大工控场景的网关审计留痕与风险命中记录，形成可查询、可追踪、可复核的完整安全证据链，为工业控制系统大模型上线验证、产线智能体安全受控运行和工业互联网持续风险治理提供一体化支撑。 

工业控制系统安全检测任务编排场景界面

工业控制系统检测界面

工业控制系统工作流与统一审计记录界面

四、结束语

       随着图神经网络、大语言模型和多模态大模型等人工智能技术加速进入工业生产、智能制造、设备运维和安全管理等核心业务场景，人工智能面临的安全风险也正由单一模型攻击，逐步向训练数据污染、模型后门、输入攻击、提示注入、图提示攻击以及生成内容越狱等全生命周期风险演进。多模态大模型安全检测系统（DeepCensor）V3.5 完成新一轮版本升级并取得软件著作权。DeepCensor V3.5 面向企业人工智能应用中的实际安全需求，在原有模型安全检测能力基础上，进一步强化安全检测、风险评估与主动防御能力，覆盖从训练数据、模型本体到模型输入与输出的关键安全环节，为工业人工智能模型上线前评测和运行时防护提供一体化系统与关键技术支撑。