新闻中心
新闻中心

当前位置:首页 / 新闻中心 / 实验室动态 / 正文

HAUST-HNU大模型与安全联合研究团队第13期组会召开

2024-07-22

7月21日,HAUST-HNU大模型与安全联合研究团队第13期组会在线召开。本次组会主题是大模型安全研究学习汇报与交流。会议由河南师范大学荆军昌副教授主持。

河南科技大学2024级博士研究生权高原以《CSAC 2024网络空间安全学术大会汇报及下一步预研思路》为题做汇报交流。本次汇报主要分为两个部分,第一部分介绍了CSAC 2024网络空间安全学术大会涉及的关于大模型安全的相关工作和前沿方向,分别包括电子科技大学张小松教授的《网络安全大模型的创新与实践》报告、浙江大学任奎教授的《大模型时代人工智能安全与测评》报告、复旦大学杨珉教授的《AI大模型安全评测与治理》报告、中科院信息工程研究所曹亚男研究员的《大语言模型安全关键技术进展》报告、广州大学李进教授的《大模型安全与隐私:现状及挑战》报告。第二部分是关于依托实验室在研项目“多模态大模型安全检测与对抗防御关键技术研发及示范化应用”进行的预研思路汇报。


河南科技大学2024级博士生潘俊艳以《2024网络空间安全学术大会》相关内容为切入点进行了汇报交流。汇报内容分为两个部分,第一部分为AI大模型安全的前沿与挑战展开,主要包含了大模型安全的研究背景、当前的研究热点、已有的研究成果及大模型发展的未来挑战和研究方向。第二部分是关于《针对图像识别的隐形后门攻击》研究思路展开了相关汇报。


在交流环节,与会成员就网络空间安全学术大会中关于大模型安全相关报告涉及的研究工作和创新思路进行了热烈讨论,同时对下一步预研思路提出了意见和建议。在会后,张志勇教授对研究团队当前硕士和博士选题思路和研究方向进一步明确了相关要求,同时为团队未来发展方向做出了展望。

微信扫码分享