2025年7月26日下午，中国人工智能发展与安全研究网络在上海世博中心金厅A成功举办“人工智能发展与安全”全体会议。上海市委常委、常务副市长 吴伟、国家发展和改革委员会创新驱动发展中心主任 霍福鹏 出席并致辞。会议由清华大学文科资深教授、人工智能国际治理研究院院长 薛澜 主持，来自 清华大学、上海交通大学、多伦多大学、加州大学伯克利分校、牛津大学、中国信通院、中国电子信息产业发展研究院、中国电信集团、阿里巴巴集团、微软公司等国内外科研院校、研究智库和企业的近20位资深专家，围绕人工智能发展与安全的前沿进展与应用实践，深入探讨如何安全地发展人工智能技术，如何促进成果共享、缩小智能鸿沟，如何为确保人工智能技术造福于全人类而开展国际合作，构建包容性的全球治理框架。
会议伊始，邀请诺贝尔和图灵奖得主、多伦多大学教授 杰弗里·辛顿 与图灵奖得主、清华大学交叉信息研究院、人工智能学院院长 姚期智 进行了一场高端对谈。他们重点围绕人工智能与神经科学、人工智能的“自我意识”、量子计算对人工智能发展的影响等前沿话题展开深度讨论。他们谈到，人工智能与合成生物学一样，都是在创造“新的生命”，当前人工智能已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。辛顿尤其强调，如何训练对人类保持善意的人工智能，确保“智能向善”是人类必须和解决的重要问题。
随后，加拿大蒙特利尔大学教授 约书亚·本吉奥 和美国加州大学伯克利分校教授 大卫·帕特森 分别线上发言，分享了他们的独到见解。本吉奥 强调，过去几年人们所见证的人工智能对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。帕特森 分享了自己团队的最近研究成果，他们发现人机协同时的能力优于人类与人工智能各自的单打独斗，如果人类能把人工智能的应用聚焦于提升生产力，将获得更多收益。
在随后进行的专家讨论环节，姚期智 作为主持人邀请美国加州大学伯克利分校教授 斯图尔特·罗素、中国信息通信研究院院长 余晓晖、英国皇家工程院院士 约翰·麦克德米、清华大学交叉信息研究院副院长 徐葳、奇安信集团合伙人 邬怡 等专家，围绕 “AI与人类的和谐未来” 问题展开研讨。嘉宾们聚焦人工智能风险研判、评估及其治理的技术路径等话题，谈到人工智能与网络等多领域的安全相互影响，需要在传统安全防护手段的基础上提升能力，呼吁加强跨学科协作，充分借鉴生物伦理、传统工程安全等领域的经验，构建“辅助博弈”框架，促使人工智能系统主动学习人类偏好而非简单模仿行为，通过冗余验证等“软硬件结合”的方式降低人工智能风险等。
英国牛津大学布拉瓦尼克政府学院的创始院长 林奈莉、上海交通大学文科资深教授 季卫东、美国微软公司前首席研究与战略官 克雷格·蒙迪、中国电子信息产业发展研究院党委副书记 胡国栋、中国电信集团网络与信息安全首席专家 刘紫千、阿里云智能集团副总裁 刘湘雯 等专家参加了 薛澜 主持的讨论，围绕“人工智能发展与安全的全球治理”问题展开，在探讨人工智能全球治理框架的同时，分享了中国人工智能发展与治理的最佳实践。大家谈到，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对。呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的人工智能治理框架和标准规范，共同应对人工智能风险，
最后，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室 4家网络成员单位 代表网络联合发布 《中国人工智能安全承诺框架》，邀请 中国电信集团、阿里巴巴、百度、MiniMax上海稀宇科技 等相关企业代表发言，并开放邀请全球人工智能企业签署。框架在相关企业安全承诺基础上新增针对加强安全治理国际合作和关于防范前沿人工智能安全风险的重要内容。
本场论坛论坛兼顾前沿议题与最佳实践，旨在通过对风险治理技术路线、全球治理框架等现实问题的探讨，结合中国有效实践、安全承诺框架等实操内容的发布，推动全球人工智能治理从共识走向行动。论坛由 清华大学人工智能国际治理研究院、中国电子信息产业发展研究院(赛迪研究院)、上海期智研究院、清华大学交叉信息研究院、中国信息通信研究院、上海人工智能实验室等多家网络成员单位共同承办，现场注册参会人数超过 700人，CGTN等媒体全程直播，超过 40万观众 在线参会。论坛取得圆满成功，受到国内外专家和听众高度评价。
参考资料：
上海世界人工智能大会
WAIC
举办地区：上海
开闭馆时间：09:00-18:00
举办地址：上海市浦东新区国展路1099号
展览面积：70000㎡
观众数量：300000
举办周期：1年1届
主办单位：世界人工智能大会
