全球人工智能治理的一座里程碑-koko官网下载

智道

栏目主持人：於兴中

■主持人说

人工智能的飞速发展在造福人类的同时，也为人类带来风险和挑战。对人工智能的治理成为重要的全球问题。今年9月，联合国发布了《治理人工智能，助力造福人类》的报告，为全球人工智能治理指明了方向，提出了可行策略。此前，也曾有不同模式的地域性的治理框架或者指南，但联合国的报告代表着全球利益，几乎涵盖所有国家。中国一贯主张在联合国框架下推进全球人工智能治理对话与合作。本栏目特约被《时代》杂志选为2024年度全球对人工智能发展最具影响力的百人之一、联合国人工智能高层顾问机构中方专家、参与上述报告起草工作的张凌寒教授对该报告予以详细解读，并邀请对人工智能治理方面研究有素的学者发表他们的看法。

□张凌寒

今年9月，在世界未来峰会召开前夕，联合国人工智能高层顾问机构（high level advisory body on ai）发布了终期报告《治理人工智能，助力造福人类》（以下简称《终期报告》），多项建议被《全球数字契约》各成员国采纳，将在推动全球人工智能治理进程中发挥重要作用。

关键内容

《终期报告》的关键内容分为五部分。

一是人工智能的潜力与风险，这部分内容继续总结了2023年12月发布的《中期报告》内容，指出人工智能技术在推动科学研究、优化能源网络、改善公共卫生、农业、教育等领域具有巨大潜力，有助于实现可持续发展目标。同时指出，如果人工智能技术应用不当，可能加剧社会不平等、引发失业、侵犯个人隐私、传播虚假信息等问题。

二是全球治理的必要性，强调人工智能技术具有跨国性质，其影响跨越国界，因此需要全球性的治理机制来确保其积极影响最大化，同时减少潜在风险。

三是当前治理的不足，具体包括：第一，代表性不足，即许多国际人工智能治理对话缺乏全球广泛参与，特别是缺乏发展中国家的声音；第二，协调性不足，现有的人工智能治理倡议和机构之间缺乏有效协调，导致治理碎片化；第三，执行力不足，缺乏有效的执行和问责机制，导致人工智能治理的承诺难以转化为实际行动。

四是加强全球合作的七项建议。第一，国际人工智能科学小组。建立一个独立的科学小组，负责整理和催化前沿人工智能研究，提供关于人工智能技术趋势的科学共识。第二，人工智能治理政策对话。启动政府间多利益攸关方政策对话，分享人工智能治理的最佳实践。第三，人工智能标准交流中心。创建一个汇集全球标准制定组织和利益攸关方代表的平台，以统一人工智能相关术语和标准。第四，能力发展网络。建立一个网络，支持各国提升人工智能治理能力，提供算力、数据和培训资源。第五，全球人工智能基金。设立基金，为发展中国家提供必要的人工智能资源和支持，以缩小人工智能鸿沟。第六，全球人工智能数据框架。创建一个框架，以促进数据共享和互操作性，同时保护数据主体的权利。第七，联合国秘书处人工智能办公室。在联合国秘书处设立一个办公室，作为协调和推进上述建议的“黏合剂”。

五是行动呼吁，报告呼吁所有利益攸关方，包括政府、私营部门、民间社会和国际组织，共同努力，确保人工智能技术的发展能够造福全人类，同时避免潜在的风险。

核心部分

报告的核心内容是第三部分与第四部分。其中第三部分“当前治理的不足”基于大量的统计、采访与在今年年初进行的人工智能风险与治理的调查。根据调查显示，目前在非联合国系统推进的国际人工智能治理合作中，如ai安全峰会、g20等，全球只有7个国家全部参与，而有118个国家完全没有参与，这些国家全部是全球南方国家。同时，对现有人工智能国际治理的合作调查显示，在众多的全球和地区国际组织中的人工智能治理活动呈现碎片化态势，缺少统一协调。这也充分凸显了在联合国框架下讨论人工智能国际治理合作的必要性和紧迫性。

第四部分的七项建议作为报告的核心内容提交给世界未来峰会。《全球数字契约》中的目标五提出为达成“加强人工智能的国际治理，造福人类”这一目标，在联合国内部构建独立的多学科国际ai科学小组，发起全球ai治理对话，制定并采纳可互操作的ai标准。与此同时，鼓励南北、南南和三方合作，增加私营部门投资，从而建立起一个平衡、包容的ai治理框架。

由此可见，《终期报告》中的国际人工智能科学小组和全球人工智能治理对话已获批准，成员国正在确定如何为采纳的文本制定详细的安排制定计划，同时如何建立每一个的具体细节仍有待成员国政府间讨论决定。人工智能标准建设、加强人工智能能力建设等国际人工智能治理功能的重要性也在《全球数字契约》中获得认可。《全球数字契约》提出采取平衡、包容和基于风险的人工智能治理方式，积极推进安全、可靠和值得信赖的人工智能系统的发展，同时以公共利益为导向管理人工智能，确保ai能够有力促进文化的交流和发展。

《全球数字契约》发布后，联合国在9月25日首次召开了以加强人工智能能力建设国际合作为主题的高级别会议。中国在会上提出了《人工智能能力建设普惠计划》，围绕基础设施建设、应用赋能、人才培养、数据安全和多样性以及安全可靠可控五个方面，提出十大行动方案，推动普惠发展，弥合智能鸿沟，与契约方向和联合国的七项行动同频。

在此之前，今年7月1日，第78届联合国大会协商一致通过了中国主提的加强人工智能能力建设国际合作决议，140多个国家参加决议联署。该决议强调人工智能发展应坚持以人为本、智能向善、造福人类的原则，鼓励通过国际合作和实际行动帮助各国特别是发展中国家加强人工智能能力建设，增强发展中国家在人工智能全球治理中的代表性和发言权，倡导开放、公平、非歧视的商业环境，支持联合国在国际合作中发挥中心作用，实现人工智能包容普惠可持续发展，助力实现联合国2030年可持续发展议程。中国关于人工智能能力建设的贡献，充分彰显出中国对人工智能发展和治理的负责任态度和重要引领作用。

联合国秘书长古特雷斯在《终期报告》发布的视频中指出：“这份报告并非结束，而是我们持续致力人工智能造福人类工作的关键里程碑。”人工智能技术正在迅速改变人类社会，怎样治理人工智能在一定程度上决定了人类将拥有怎样的未来。

（作者系中国政法大学教授、联合国人工智能高层顾问机构中方专家）

责编：尹丽