山大华特 AI技术与安全如何权衡？上海人工智能实验室首席科学家：45°平衡率

　　摘要：AI治理已迫在眉睫。

　　“我们看到了人工智能带来的巨大能量，也为未来感到隐忧，如何能够实现平衡，是一个深刻的问题。”在2024WAIC全体会议上，图灵奖得主姚期智说。回看往年的世界人工智能大会，“AI治理”是经典话题，但像今年这样，从图灵奖得主，到国内外行业领军企业家，以如此高规格、高频度，高度统一聚焦的态势，还是第一次。

　　旁听本届WAIC的主要论坛，记者捕捉到两组重要数据：2023年AI发展领先国家所遭遇的AI安全事件数量，是2022年的10倍；目前所有算力消耗之中，用来提升AI性能的占99%，用于安全的不到1%。这些数据足以说明，AI治理已迫在眉睫。

　　人工智能45°平衡律

　　每一项新技术在产生机会的同时也会带来问题。正如图灵奖得主姚期智在全体会议中所说，我们处于一个令人激动的历史时期。“一方面我们把AI控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，权衡是非常困难的。”

　　那么，AI技术与安全如何权衡？上海人工智能实验室主任、首席科学家、清华大学惠妍讲席教授周伯文带来了新的主张——探索安全与性能共同增长的人工智能45°平衡律。

　　他指出，由AI带来的风险已初露端倪，但更多的是潜在风险。从公众对AI风险的关注程度来看，数据泄露、滥用、隐私及版权等内容风险，恶意使用带来伪造、虚假信息等使用风险，偏见歧视等伦理风险最为突出。周伯文认为，出现上述担忧的根本原因是AI失衡发展。

　　于是他提出了45°平衡率。指的是从长期的角度来看，安全与性能之间的平衡大体上要沿着45°发展，平衡是指短期可以有波动，但不能长期低于45°(如同现在)，也不能长期高于45度(这将阻碍发展与产业应用)。这个技术思想体系要求强技术驱动、全流程优化、多主体参与以及敏捷治理。

　　实现AI-45°平衡律也有多种技术路径。他透露上海AI实验室最近在探索一条以因果为核心的路径，将可信AGI(通用人工智能)的发展分为三个递进阶段：泛对齐、可干预、能反思。

　　他说，“沿着可信AGI的‘因果之梯’拾级而上，我们相信可以构建真正可信AGI，实现人工智能的安全与卓越性能的完美平衡。”

　　全球携手的必要性

　　从硅谷到华强北，从实验室到办公室，从课堂到战场，全球人工智能技术飞速发展，等不及人们争论出个结果，就已经快速应用到人类世界的方方面面，AI技术如同蝴蝶效应，AI治理已不再是单一国家的问题。

　　“在如今的国际社会里，一个国家带来的风险就是全球的风险，所以这些问题(各国)必须共同努力解决。”清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜说。

　　他认为，中国在过去的实践中已建立较完整的治理体系，而从全球角度看，人工智能发展仍面临着很多挑战，尤其是基础设施鸿沟对全球治理的影响值得进一步讨论。

　　薛澜建议，通过多途径建立国际交流及防控体系，加强政府间的多边对话机制，希望通过科学共同体力量助力国际机制全面完善，也希望联合国等国际组织真正起到综合全面协调的作用，打破壁垒，加强国际合作协议。

　　也正如可控核聚变对全人类都是共同利益一样，在2024年的世界人工智能大会上，来自国内外的专家学者达成共识，坚信AI的安全也是全球性的公共福祉。在开幕上发布的《人工智能全球治理上海宣言》中提到“要推动各国加强交流和对话”。

　　”我们愿与大家一起携手推进AI-45°平衡律的发展，共享AI安全技术、加强全球AI安全人才交流与合作，平衡AI安全与能力的投入，共同构建开放、安全的通用人工智能创新生态和人才发展环境。“周伯文说。

　　头图为2024WAIC会场山大华特，记者陈宁摄