由中国图象图形学学会青年工作委员会发起的“第十九届中国图象图形学学会青年科学家会议”于2023年12月28-31日在中国广州召开。本次会议由中国图象图形学学会主办，琶洲实验室、华南理工大学、中山大学、中国图象图形学学会青年工作委员会承办。王耀南院士、谭铁牛院士、中山大学赖剑煌教授、华南理工大学徐向民副校长、许勇副校长、琶洲实验室常务副主任李远清教授、华南理工大学陈俊龙教授、北京大学林宙辰教授共同担任大会主席。

会议面向国际学术前沿与国家战略需求，聚焦最新前沿技术和热点领域，会议设4个大会报告，27个主题分论坛，4个Tutorial，总计近150场高水平学术报告 。2023年12月30日下午，可信人工智能论坛论坛成功举办。论坛由赵才荣教授、任文琦教授、邓伟洪教授和吴保元教授联合组织，赵才荣教授担任本次论坛主持人。“可信人工智能”是重要的前沿科技领域，其专注于开发透明、可解释且可靠的AI系统，同时为确保AI决策的公正性、安全性和合规性提供了重要的技术基础。论坛聚焦该领域的最新研究进展与前沿技术，详细探讨了“大模型基座赋能：由通到专的实践和思考”、“从信息隐藏到功能隐藏”、“大模型时代的安全人工智能方法”、“面向社交网络的多媒体信息安全和取证”、“Time to Rethink Adversarial Examples”等主题内容。

浙江大学教授吴飞、复旦大学教授张新鹏、清华大学副研究员苏航、澳门大学教授周建涛和北京大学助理教授王奕森五位专家，作为本场论坛讲者进行主题报告。

吴飞教授带来主题为“大模型基座赋能：由通到专的实践和思考”的报告。

本报告介绍大模型训练过程中预训练、有监督微调和人在回路反馈等代表性算法，刻画“预训练模型+提示学习+预测”机器学习范式中数据和模型为大、语言点金的特点。同时介绍以高质量教材级语料打造的面向101计划核心课程《人工智能引论》教学的垂直领域大模型智海三乐以及通过逻辑丰富语料打造的面向智能司法的垂直领域大模型智海-录问，对大小模型协同进化以及数据和知识双轮驱动等问题进行思考。

张新鹏教授的报告主题为“从信息隐藏到功能隐藏”。

数字隐写（信息隐藏）在近30年间发展迅速，我们将在该报告中探讨深度学习兴起后信息隐藏的新发展，包括从传统的修改式隐写到图像、文本、图文互鉴的构造式/生成式隐写，也包括从数据隐藏到网络、驱动和功能的隐藏，成为支撑网络隐蔽空间的重要内容。

苏航副研究员的报告主题为“大模型时代的安全人工智能方法”。

在GPT等大型模型的快速发展推动下，人工智能系统正加速技术革命和产业进步，逐步融入人类日常生活。在这背景下，确保人工智能系统的安全性和可靠性显得尤为重要。当前的人工智能普遍存在鲁棒性不足，容易受到欺骗和误导，为其大规模应用和部署带来安全隐患。本报告将重点探讨深度学习算法安全中的挑战，从对抗鲁棒的基本原理出发，详细介绍基于对抗攻击的深度学习模型风险识别方法，尤其是面向GPT4等多模态大模型的黑盒对抗攻防问题。同时，报告将阐述在此基础上发展的鲁棒深度学习算法，讨论如何利用扩散模型等预训练方法提升模型的安全性和可靠性。最后，我们将讨论物理世界对抗攻击的真实风险，为未来的安全人工智能研究提供启示。

周建涛教授的报告主题为“面向社交网络的多媒体信息安全和取证”。

近年来，随着社交网络平台的发展，数字多媒体信息传播的便利性和快速性得到极大的提高。海量社交多媒体信息在丰富人们生活的同时，也为社会带来了如版权侵权、隐私信息泄露、信息恶意篡改等安全问题。此次报告，将探讨面向社交网络的多媒体信息安全和取证的新技术。首先从社交网络信道建模和估计入手，介绍基于模型的信道建模方法，以及向深度模型建模的进化。这是以社交多媒体信息为载体的信息安全和取证研究的基石。在社交网络信道模型的基础上，简介课题组近年来的一系列工作，包括抗社交媒体传输的鲁棒图像篡改检测、鲁棒相机模型识别、鲁棒图像水印、鲁棒图像加密、鲁棒图像分享等，并对未来工作进行展望。

王奕森助理教授的报告主题为“Time to Rethink Adversarial Examples”。

对抗样本（Adversarial Example）自从2014年被发现之后，一直得到学术界的广泛关注，然而随着自监督学习的兴起，对抗样本会表现出跟监督学习下很不一样的性质。在本次报告，我将简要介绍对抗样本在自监督学习下的一些特殊性质和表现，并以此启发在大语言模型下，对抗样本的攻击和防御，期望为AI safety的发展提供一些潜在思路。

本次论坛为青年科学家们提供了宝贵的学术交流平台，为通用可信人工智能领域的研究进展提供了新的启示和思想碰撞。