由中国图象图形学学会青年工作委员会发起的“第十九届中国图象图形学学会青年科学家会议”于2023年12月28-31日在中国广州召开。本次会议由中国图象图形学学会主办，琶洲实验室、华南理工大学、中山大学、中国图象图形学学会青年工作委员会承办。王耀南院士、谭铁牛院士、中山大学赖剑煌教授、华南理工大学徐向民副校长、许勇副校长、琶洲实验室常务副主任李远清教授、华南理工大学陈俊龙教授、北京大学林宙辰教授共同担任大会主席。

会议面向国际学术前沿与国家战略需求，聚焦最新前沿技术和热点领域，会议设4个大会报告，27个主题分论坛，4个Tutorial，总计近150场高水平学术报告 。2023年12月29日上午，人工智能伦理与治理论坛成功举办。论坛由邹月娴教授、王国豫教授和段伟文教授联合组织，邹月娴教授担任本次论坛主持人。“人工智能伦理与治理”是当今备受瞩目的研究领域，其密切关系着当今的模型生态与安全。论坛聚焦该领域的最新研究进展与前沿技术，详细探讨了“大模型安全隐私：现状与挑战”、“产权视角下的人工智能伦理治理”、“科幻电影中的养老机器人伦理”、“e/acc还是e/a?前沿AI伦理与治理思考”和“范式变革：大模型创新与安全治理”等主题内容。

广州大学科学研究院教授李进、上海人工智能实验室治理研究中心副主任、研究员王迎春、香港中文大学（深圳）高等金融研究院政策研究员本力、广东外语外贸大学外国文学文化研究院副教授程林和腾讯研究院高级研究员曹建峰五位专家，作为本场论坛讲者进行主题报告。

李进教授带来报告主题是“大模型安全隐私：现状与挑战”。

基于大模型的文本和图像生成技术在众多领域展现出显著的价值，不仅为内容创造和数据分析开辟了新路径，还提升了信息处理效率。然而，随着这些技术的普及，安全隐私问题日益成为关注焦点。本报告旨在介绍大模型在安全隐私方面的关键挑战与研究进展，涵盖了从数据隐私保护到模型生成内容安全等方面的研究。在此基础上，本报告将简要介绍本团队在训练数据隐私安全，模型本体与组件安全，模型访问控制安全，以及模型生成内容的版权保护等方面的研究成果。最后，报告展望了未来可行的研究方向和垂直行业的应用价值，指出未来研究应聚焦于探索更先进的安全机制，提升模型透明度和可靠性，以及探索新的隐私保护策略，为学术界和工业界的大模型安全隐私研究提供一个全面的视角。

本力研究员的报告主题是“产权视角下的人工智能伦理治理”。

在人工智能时代，技术创新带来的伦理问题主要体现为对人的尊严的挑战和对知识产权产生冲击。现代伦理是以责任伦理为基础的，产权与责任伦理密切相关，这是人工智能伦理治理的重要基石。在人工智能的大模型时代，生成式人工智能为投资、创业、研发等商业活动注入了巨大活力，也使知识产权方面的伦理治理问题更加突出。从产权理论和产权经济学的发展，以及新兴技术对知识产权的冲击改变和全球不同地区人工智能伦理治理特点来看，应重视开源等新趋势，更侧重产权的使用权、收益权等方面的治理。这将有利于平衡人工智能技术的创新和伦理同步发展。

程林副教授带来的报告主题是“科幻电影中的养老机器人伦理”。

本报告从不同时间和国家的科幻电影以及短片和电视剧等素材入手，着重阐述了科幻作品在机器人养老伦理讨论中的作用，例如它能让隐私安全、赡养伦理、虚拟情感、机器人定位等问题变得具象、细化、可感知，也能还原人机交互中人之复杂性。报告还分析了科幻机器人养老叙事作为一种故事性思想实验与科技哲学和社会学等领域相关讨论的异同。

曹建峰研究员带来报告主题是“e/acc还是e/a?前沿AI伦理与治理思考”。

在大模型时代，随着人工智能系统的能力越来越强，有效加速与有效对齐的技术发展理念之争折射出负责任的AI创新与发展的重要性。负责任的AI大模型的一个核心方向是实现大模型价值对齐或者说人机对齐，以确保AI向善。目前，价值对齐的实现正从人类监督向AI监督发展，同时训练数据干预、可解释AI、对抗测试等多种方式亦确保构建人机对齐的AI大模型。总之，人机对齐不仅是大模型的必由之路，也关乎未来通用人工智能的未来。

王迎春研究员带来报告主题是“范式变革：大模型创新与安全治理”。

分析大模型带来的创新范式变革和安全范式变革，探讨大模型时代安全与发展一体两翼的内在逻辑，提出“软硬结合”从政策和技术两大维度开展治理的思考。从价值对齐与安全评测等方面讨论研究的最新进展和趋势，分享依托战略科技力量构建我国大模型发展和安全双基座的思考与实践。

本次论坛为青年科学家们提供了宝贵的学术交流平台，为人工智能伦理与治理领域的研究进展提供了新的启示和思想碰撞。