3月24日,HAUST-HNU大模型与安全联合研究团队第5期组会在线召开。本次组会主题是人工智能安全风险、实施规范和路线图。会议由河南师范大学荆军昌副教授主持。
河南科技大学23级硕士研究生高云龙以《人工智能带来的问题与建议》为题做了汇报交流。他分析了新一代人工智能安全风险频发的现状,重点介绍了人工智能路线图,旨在为各企业和相关组织机构利用生成式人工智能进行开发,提供稳健的方法策略;详细描述了路线图中的具体流程,包括识别、分类、分级及实现。**后,解读了联合国教科文组织通过的《人工智能**问题建议书》,包括它的价值观、原则以及所涉及的政策领域。
荆军昌分析了构建人工智能靶场平台的意义、价值,以及体系架构、关键算法与核心功能。在交流环节,与会组员展开了深入讨论,充分认识到新一代人工智能所面临的机遇、风险和挑战,以及如何确保可信、可靠的人工智能系统设计、开发与使用。