2026年9月29日,CSA多模态情感计算课题组第51期学术组会成功召开,会议由国际联合实验室宋斌老师主持。本次组会围绕硕士研究生开题开展交流研讨。
河南科技大学2025级硕士研究生张傲以《面向多模态情感分析的情绪感知跨模态对齐与对比学习方法研究》为题进行开题汇报。首先介绍多模态情感分析的研究背景,指出当前研究仍面临模态异构性突出、浅层融合方法存在局限。随后,汇报该方向国内外研究现状,研究发展主要分为多模态融合方法、跨模态语义对齐、情绪感知表示学习三个阶段。针对现存问题,详细阐述三项核心研究内容。**,情绪一致性约束的细粒度跨模态语义对齐方法,通过单模态特征提纯、情绪感知交叉注意力机制、全局融合与情绪一致性约束损失,实现细粒度模态交互对齐;第二,基于情绪感知对比学习的跨模态对齐优化方法研究,挖掘语义相似但情绪不一致的难样本,完成语义、情绪双空间联合对比优化,提升模型识别复杂情感的能力;第三,应用落地研究,将所提模型集成** “雒盾” 社交网络安全平台,针对社交网络中文本、图片、音视频多源数据开展情感分析,研判网络用户的情感态度。

随后,河南科技大学2025级硕士研究生杨海畅以《面向动态模态缺失的知识增强多模态情感分析方法研究》为题进行开题汇报。本次汇报围绕真实场景下的多模态情感分析展开。现有方法通常假设文本、音频和视觉模态完整可用,但实际中模态缺失会导致跨模态信息不完整、特征空间不一致和预测性能下降,固定融合方式也难以适应样本差异。为此,研究拟构建通用动态缺失模态处理框架,将各模态统一映射到共享情感语义空间,并用完整模态教师表征约束缺失模态学生表征;同时引入SenticNet情感常识和轻量大语言模型生成的样本级线索,实现知识引导的动态模态融合。在此基础上,采用跨模态对比学习,以完整模态为锚点构造正负样本并过滤伪负样本,联合任务损失、蒸馏损失和对比损失优化模型。技术路线按“基础构建—知识融合—优化验证”三阶段推进。实验将在完整模态和多种缺失模态场景下验证整体性能,并通过模块消融、特征可视化和注意力分析考察各模块贡献与作用机制。研究**终期望形成适应多种模态缺失组合的知识增强多模态情感分析方法,为真实环境中的情感计算提供参考,并产出论文、实验成果和可复现代码。

交流讨论环节,宋斌老师对汇报进行了总结,并提出了宝贵的建设性建议。其他与会组员围绕汇报内容提出了问题并展开了深入讨论,进一步加深了对相关问题的理解。
(图文/张傲、杨海畅 审核/宋斌)