发布时间:2024-08-31 08:34:41 来源: sp20240831
近年来,人工智能的新技术不断突破、新业态持续涌现、新应用加快拓展,已成为新一轮科技革命和产业变革的重要驱动力量。同时,人工智能发展在法律、安全、就业、道德伦理等方面也面临着一系列新课题。国际组织和世界多国已开始在理念、立法和科普等方面探索人工智能治理的可行性路径并达成一些共识,努力在发展和安全之间寻求平衡,但全球人工智能治理仍面临“监管滞后”“技术鸿沟”“安全泛化”“共识难聚”“归责不明”“执行不力”等挑战。
探索全球人工智能治理共识机制
近年来,全球主要经济体和国际组织纷纷致力于人工智能治理框架的构建与迭代,积极探索全球人工智能治理共识机制。
“从全球范围来看,人工智能已步入技术发展的‘奇点时刻’与监管治理的‘关键时刻’。”对外经济贸易大学数字经济与法律创新研究中心主任张欣在接受本报记者采访时表示,当前,作为全球科技竞争最激烈的领域之一,人工智能的国际竞争早已超越技术和产业的竞争,并实质拓展到以法律规制为代表的治理竞争。美国、中国、欧盟、英国、日本、韩国、加拿大、新加坡和巴西等均高度重视人工智能治理,形成“技术赛道”“产品赛道”和“制度赛道”多轨并行的新格局。
国际组织积极探索促成全球人工智能治理共识达成的规范框架。张欣介绍,2019年,经济合作与发展组织发布了全球首个政府间人工智能治理原则的文件。同年,二十国集团提出“G20人工智能原则”,确定了人工智能应促进包容性增长、可持续发展和社会福祉以及“以人为本”的价值观和“问责制”等治理的基础性原则。2023年10月,联合国秘书长安东尼奥·古特雷斯宣布组建高级别人工智能咨询机构,该机构于2023年12月发布《临时报告:以人为本的人工智能治理》。
国际组织尤为重视生成式人工智能的负责任创新。张欣介绍,联合国《全球数字契约》《关于负责任的生成式人工智能的建议》(世界经济论坛)、《生成式人工智能在教育和研究中的应用指南》等一系列文件发布,共同强调了在发展和应用生成式人工智能技术时必须遵循的伦理原则和规范,进一步呼吁各国政府、私营主体、学术机构以及民间团体共同努力,加强全球合作治理。
中国一直是人工智能全球治理的积极倡导者和践行者。2021年12月,中国向联合国《特定常规武器公约》第六次审议大会提交《中国关于规范人工智能军事应用的立场文件》,2022年11月又向联合国《特定常规武器公约》缔约国大会提交了《中国关于加强人工智能伦理治理的立场文件》。2023年10月,中国提出《全球人工智能治理倡议》,为凝聚国际社会共识、推进全球共享共治发挥了积极作用。2024年7月,第78届联合国大会以协商一致方式通过了中方主提的“加强人工智能能力建设国际合作”决议,143个联合国会员国参加联署。这是全球首个聚焦人工智能能力建设的共识性文件。
“在全球人工智能治理秩序形成的过程中,各大科技企业也积极探索人工智能治理的多元化路径,尝试探寻自我规制的创新方案。”张欣说,一方面,科技企业积极寻求与监管者沟通合作,力求通过自我承诺、自我约束开展人工智能治理;另一方面,科技企业也积极开发人工智能治理工具以纾解新型技术风险,推进负责任的创新与研发。
“面对人工智能技术革新及由此引发的治理挑战,当前,全球范围内已初步形成主权国家主导、国际组织推进、科技企业协同的多方治理格局,并出现人工智能治理法治化、智慧化和软法与硬法双轨并行深度治理的趋势。”张欣说。
加强人工智能治理规则的全球协作日益成为各方共识
过去一年多来,生成式人工智能技术已取得了质的飞跃。这不仅体现在技术进步的速度上,更体现在其广泛而深远的影响上,为各行各业带来了前所未有的变革。
据美国一个面向公众开放的数据集——人工智能、算法、自动化事件和争议存储库显示,2021年新报告的人工智能事件和争议数量是2012年的26倍。其中,生成式人工智能引发的虚假信息问题尤为突出。由于虚假信息面向的是互联网信息内容领域,因此产生的影响具有行业和场景的广泛性。
“与传统技术风险有所不同,人工智能技术风险具有隐蔽性、跨域性、全球性和长期性,需要从国际层面展开持续性、系统性和协同性的治理努力。”张欣说,人工智能技术的突破式发展导致新旧风险叠加,带来了一系列安全和伦理挑战。由于人工智能的技术迭代以日为单位,若不在早期实施有效的介入治理,则可能出现后期风险难以控制的治理困境。
“各国虽在人工智能治理思路和具体方案上存在差异,但加强人工智能治理规则的全球协作日益成为各方共识。”张欣说,2023年11月,人工智能安全峰会在英国举行,达成了全球首个人工智能治理协议《布莱切利宣言》,包括中国、美国、英国等28个国家及欧盟共同签署了该项宣言。
国际社会已形成共识:将“以人为本”作为人工智能研发和部署的基本原则和重要理念。张欣分析,“以人为本”这一共识意味着,在人工智能技术的开发与应用过程中,首要任务是确保技术始终以人类利益为先,尊重每个个体的基本权利和人的尊严,维护人的主体性地位,确保人工智能技术的发展真正服务于增进人类福祉的目标。“以人为本”的理念还强调人工智能开发应采取负责任的创新方式。这要求在技术设计、开发和部署阶段,应系统地评估和衡量潜在的影响与风险,确保系统设计的公平性和多样性,避免技术滥用。
张欣说,从实践来看,全球人工智能治理仍然存在以下不足:一是国际组织参与度高于政府,但尚未有国际组织承担起全球人工智能核心监管机构的角色,各国际组织间呈现出高度分散的碎片化状态。二是政府间合作多具有地域特征和大国竞争导向。以G7国家为代表的发达国家试图构建一套普适性的人工智能监管规则, 而以金砖国家为代表的新兴市场和发展中国家在人工智能治理的国际合作中潜力尚待发挥。
不断弥合智能鸿沟和治理能力差距
由于技术发展水平和文化背景差异,各国对人工智能风险的感知也显著不同。斯坦福大学人工智能研究所发布的《2023年人工智能指数报告》引用调查机构易普索2022年的调查指出,部分发展中国家对人工智能普遍更加乐观。如78%的中国受访者同意“使用人工智能产品和服务的好处多于坏处”的观点,76%的沙特阿拉伯受访者和71%的印度受访者认为人工智能产品“利大于弊”。德国、荷兰、澳大利亚、比利时和加拿大等一些发达国家对人工智能产品和服务的评价则稍显负面。
“打造一个全方位、多层次、汇聚广泛共识, 具有真正的包容性、平等性、多元性的治理框架仍然面临多项挑战。其中尤为突出的当属意识形态对人工智能治理框架的影响以及资本逐利带来的负面冲击。”张欣认为,面对人工智能技术创新及接踵而来的治理挑战,全球人工智能治理确实已站在历史选择的“关键十字路口”,能否超越分歧达致共识,能否超越个别利益实现共同利益,是决定全球人工智能治理模式是否有韧性、有效的关键因素。
张欣说,全球人工智能治理面临归责框架不清晰和协作治理机制不健全等问题。如何处理数据安全、隐私保护、算法滥用等问题,并形成全球范围内的协同有效治理,也是当前的重要议题。
中国始终将发展中国家的期待与需求放在重要位置。《全球人工智能治理倡议》指出,增强发展中国家在人工智能全球治理中的代表性和发言权,确保各国人工智能发展与治理的权利平等、机会平等、规则平等,开展面向发展中国家的国际合作与援助,不断弥合智能鸿沟和治理能力差距。
中国常驻联合国代表傅聪介绍加强人工智能能力建设国际合作决议草案时表示,大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益,全球数字鸿沟仍有扩大之势。在此背景下,中国顺应广大国家特别是发展中国家的期待,倡导人工智能能力建设国际合作,平等发展和利用人工智能技术,共享人工智能知识成果,体现了中国对人工智能发展和治理的负责任态度。
“发展中国家与发达经济体之间在人工智能技术发展和治理议程设置能力上仍存在‘智能鸿沟’和治理代差。”张欣说,构建全球人工智能治理机制需要以包容性、平等性、多元性为基础原则,探索政府间、企业间、专家间的对话交流和磋商机制,通过在重点领域率先凝聚治理共识推动实现协同发展、和谐共荣的治理格局。
(责编:牛镛、岳弘彬)