【内容提要】本文重点分析人工智能如何从国际格局和国际规范两个方面影响国际秩序的变迁。在国际格局方面,人工智能有可能在经济和军事领域影响国家间的力量对比,非国家行为体的能力也将前所未有地扩大,围绕科技的国际竞争将更加激烈。在国际规范方面,人工智能有可能改变战争的形式和原则,并对现行的国际法律和伦理道德造成冲击。文章认为,人工智能技术带来的安全和治理挑战是需要全人类共同面对的问题,各国应从构建人类命运共同体的视角看问题,从共同安全的理念出发,讨论未来人工智能的国际规范。文章提出基于福祉、安全、共享、和平、法治、合作的六项原则。【作者简介】 傅莹,清华大学兼职教授、国际关系研究院荣誉院长、国际战略与安全研究中心主任。

清华大学国际战略与安全研究中心于 ２０１８ 年启动的人工智能与安全项目小组,重点探讨人工智能技术的发展对国家安全和国际关系的影响以及构建共同准则的可能性。本文是基于对项目组相关信息的汇总而对人工智能与国际关系的相互影响的初步研究。

１９５０ 年,英国科学家图灵提出了人工智能的概念。１９５６年,首届人工智能研讨会在美国新罕布什尔州达特茅斯举行,人工智能作为一门科学正式为科学 界所承认。 １９９７ 年,IBM 计算机程序“深蓝”赢得与世界国际象棋特级大师卡斯帕罗夫的六盘大战。进入 ２１ 世纪的第二个十年,人工智能技术的研究和开发加快了步伐。 ２０１４ 年,谷歌 AlphaGo 战胜世界围棋冠军李世石。 ６０ 年后的今天,人工智能在人类越来越多的生产和生活领域得到广泛应用,在部分专门领域接近甚至超过人脑的表现。作为一种有潜力改造人类社会面貌的泛在性技术,人工智能在科技、产业、军事、社会、伦理等领域被广泛讨论。

那么,人工智能是否会对国际关系产生影响? 会产生什么样的影响?本文试图对这些问题作一些探讨。需要说明的是,人工智能技术本身存在复杂性、难以说明性和不确定性,笔者非人工智能技术专家,本文只是根据已经发生的人工智能事件或学术界普遍认可的发展趋势,来分析人工智能对国际关系产生的影响,并试图探讨构建共同准则的必要性和可能性。

诚然,对于科学技术会如何影响现代国际关系有不少过高的预期。例如,阿尔温·托夫勒在 １９８０ 年出版的«第三次浪潮»一书中预测,未来世界将充斥核武器风险,濒临经济和生态崩溃,现存政治制度将迅速过时,世界将面临严重危机。这类预测往往高估了科技给人类带来的困难,却低估了人类解决困难的意愿和能力。冷战后,在全球化的大背景之下,多边主义逐渐成为国际共识,国际防止核武器扩散体系的有效性,应对气候变化的全球运动和各国由此而不断强化的应对环境变化的合作,以及世界范围内的和平运动的发展,都显示了人类在维护和平和应对挑战上的理念共识和负责任态度。科技造成的问题,可以通过科技本身的不断再进化而得到解决,人类也需要通过伦理道德和法律来构建严密的防范体系。实际上,每一次科技革命都加速了全球化的进程,促使一系列全球性问题被纳入国际政治的议事日程中来,世界也因此变得更加透明和更加融为一体。

一、 我们讨论的是什么?

在进入正式讨论之前,需要明确几个问题。

第一个问题,我们讨论的是什么人工智能? 是狭义的、能够模拟人的个别智能行为的人工智能,比如识别、学习、推理、判断? 还是通用人工智能,拥有与人类大脑相似的自主意识和自主创新能力? 是弱人工智能,为解决特定、具体任务而存在,只擅长语音识别、图像识别、翻译某些特定素材的人工智能,例如谷歌的 AlphaGo 、科大讯飞的智能翻译器? 还是强人工智能,能够思考、计划、解决问题,能够进行抽象思维、理解复杂理念、快速学习、从经验中学习等人类级别的人工智能,例如电影«人工智能»中的小男孩大卫、«机械姬»中的艾娃? 抑或是未来的超级人工智能,即跨过了“奇点” ,计算和思维能力远超人脑,“在几乎所有领域都比最聪明的人类大脑聪明很多,包括科学创新、通识和社交技能”(牛津哲学家 NickBostrom 对超级智能的定义)的所谓人工智能合成人(Synthetics )?

我们讨论人工智能对国际关系乃至国际格局的影响,只能限定在已知、基于大数据和深度学习技术,以算力、算法和数据为三大要素的人工智能技术及其应用上。我们还无法讨论那些尚未获得突破的、拥有全大脑仿真技术的未来人工智能技术。目前应是依据已经存在和能大致预见到的人工智能技术及其发展趋势,来探讨其已经和可能对国际关系产生的影响。

第二个问题,人工智能能否影响国际关系进而影响到国际秩序? 目前看,答案是肯定的。历史上,技术革新和传播曾经无数次革命性地改变了一国或多国命运,进而改变了地区格局甚至世界形势。麦克尼尔父子在«麦克尼尔全球史:从史前到 ２１ 世纪的人类网络»一书中,生动地描写了技术革命对军事、政府组织方式、信仰,进而对国家间权力转移和地区格局演变的决定性影响。书中谈到,公元前 １７００ 年左右,战车革命改变了美索不达米亚、埃及、印度、中国黄河地区等区域的权力格局,例如,雅利安人入主印度北部和商朝的兴起。公元前 １２００ 年后,铁冶炼技术的出现和传播,使装备着相对价格低廉的铁甲胄和兵器的普通步兵,有条件将精英驾驭的战车掀翻在地,更加廉价的武器装备、更大规模的军队、官僚统治的巩固等条件的组合,使亚述、波斯等农业帝国的崛起成为可能。公元前 ７ 世纪,马弓手的数量和技术又一次打破欧亚大陆的军事政治平衡,大草原上的游牧民族再度取得对农耕民族的优势。

再举一例,核技术的出现改变了现代世界的政治面貌,进一步稳固了二战结束时形成的大国权力格局,五核国的身份使得美国、苏联(解体后是俄罗斯)、英国、法国、中国保持了联合国安理会常任理事国地位,而且产生了为和平目的利用核能、有核国家承担不扩散核武器义务、允许无核国家获取和平核能技术等一系列国际规范,催生了核战争等于人类毁灭、核扩散不义且非法等国际价值观,形成了«不扩散核武器条约»«全面禁止核试验条约»、联合国核裁军谈判机制、全球核安全峰会、东南亚无核区等一系列国际制度安排。

人工智能被认为具有像核能一样的军民两用性和改变国际实力对比的颠覆性。 ２０１７ 年 ７ 月,哈佛大学肯尼迪学院贝尔福科学与国际事务中心发布了«人工智能与国家安全»报告,认为未来人工智能有可能成为与核武器、飞机、计算机、生物技术不相上下的变革性国家安全技术。 因此,将人工智能纳入能够影响国际关系的讨论范畴是合理的。

人工智能甚至可能影响国际秩序的变迁。北京大学王缉思教授认为,国际秩序包含两项基本内容,一是主要国家和国家集团的权力结构和实力对比,二是处理国家间关系应遵循的规范。清华大学阎学通教授认为,国际秩序是“国际体系中国家依据国际规范采取非暴力方式解决冲突的状态”,其构成要素为国际主流价值观、国际规范和国际制度安排。他还认为,导致国际秩序变化的原因是国际格局的变化,但国际格局却不是国际秩序的构成要素;建立国际新秩序的性质是国际权力的再分配,即国际制度再安排的核心内容。两位学者在分析国际秩序时都强调了国际格局、国际规范两大因素。人工智能有可能通过改变国际行为体的力量对比和相互关系,冲击现有国际规范并催生新的国际规范,从而从国际格局和国际规范两个方面影响国际秩序的变迁。

二、 人工智能将如何影响国际格局?

首先,人工智能将从经济上影响国家间的力量对比,甚至引发新一轮大国兴衰。

保罗肯尼迪在«大国的兴衰»一书中指出,从长远看,在每个大国经济的兴衰与其作为一个世界性大国的兴衰之间有一种显而易见的联系。 ２０１７ 年 ６ 月,普华永道发布的«抓住机遇——— ２０１７ 夏季达沃斯论坛报告»预测,到 ２０３０ 年,人工智能对世界经济的贡献将达到 １５．７ 万亿美元,中国与北美有望成为最大受益者,总获益相当于 １０．７ 万亿美元。 ２０１８ 年 ９ 月,麦肯锡全球研究所发布的«前沿笔记:用模型分析人工智能对世界经济的影响»报告认为,人工智能将显著提高全球整体生产力。去除竞争影响和转型成本因素,到 ２０３０ 年,人工智能可能为全球额外贡献 １３ 万亿美元的 GDP 增长,平均每年推动 GDP 增长约 １．２％ 。这堪比或大于历史上其他几种通用技术(比如 １９ 世纪的蒸汽机、 ２０ 世纪的工业制造和 ２１ 世纪的信息技术)所带来的变革性影响。报告还指出,占据人工智能领导地位的国家和地区(以发达经济体为主)可以在目前基础上获得 ２０％~２５％ 的经济增长,而新兴经济体可能只有这一比例的一半。“人工智能鸿沟”可能会导致“数字鸿沟”的进一步加深。人工智能可能改变全球产业链。以工业机器人、智能制造等为代表的“新工业化”将吸引制造业“回流”发达经济体,冲击发展中国家人力资源等比较优势,使许多发展中国家提前“去工业化”或永久性失去工业化的机会,被锁定在资源供应国的位置上。人工智能的开发和应用需要大量资金,科技含量高,且有可能导致就业结构变革,使得高重复性、低技术含量的工作逐渐消失。

此外,麦肯锡在 ２０１７ 年的另外一份报告中,根据对 ４６ 个国家和 ８００ 种职业进行的研究作出预测,到 ２０３０ 年,全球将有多达 ８ 亿人会失去工作,取而代之的是自动化机器人;届时,全球多达 １ / ５ 的劳动力将受到影响。全球将发生类似在 ２０ 世纪初的大规模岗位转变,当时全球大部分岗位从农业转为工业。 简言之,就是用资本和技术替代劳动力。同时,人工智能技术的广泛应用也将增加对这方面的专业人才的需求。

研究显示,有 ３ 种类型的国家最有可能从人工智能技术的发展中受益。第一类是有人工智能先发优势的国家,比如美国和中国,都被看好。第二类是资本和技术密集、同时人口较少或处于下行趋势的国家,比如日本、韩国、新加坡,既有发展人工智能的资本、技术条件,又能借助人工智能的发展弥补人口总量不足或呈下降趋势、人口结构老龄化等劣势。第三类是拥有更多科学家、数学家、工程师的国家,或重视科学、技术、工程、数学(STEM )相关专业教育的国家。

其次,人工智能将从军事上改变国家间的力量对比。

军事智能化的鼓吹者认为,人工智能将颠覆战争形态和战争样式。机械化战争是以物释能,靠的是石油和钢铁;信息化战争是以网络聚能,靠的是信息和链接。而根据目前的预期,一旦战争进入智能化时代,将是以智驭能,打的是机器人和自动化战争。

可以预见的是,在智能化条件下,战斗人员、作战概念、制胜机理等战争要素都将发生改变。在传统的战争中,即便存在敌对双方在武器装备、训练水平上的差距,劣势一方凭借有利的天时地利、超人一等的计谋、先进的战术等,尚可一战。比如,在伊拉克和阿富汗战争期间,简易爆炸装置就让美军吃尽了苦头。而在智能化战争条件下,一方在人工智能上的技术优势会迅速形成战场上的压倒性优势,使劣势一方无法形成有效的观察—判断—决策—行动循环,始终处于被动挨打的状况。布鲁金斯学会在«人工智能改变世界»报告中提出了“极速战”(hyperwar )的概念,即战争是一个与时间赛跑的过程,决策最快和执行最快的一方通常会占上风。在人工智能辅助下的指挥和控制系统,其决策速度会大大超越传统战争模式,加上能够自主决定发射致命武器的自动武器系统,将大大加速战争进程,以至于需要创造一个新术语“极速战”来描述这种战争模式。 关于后者,２０１８ 年 ４ 月 ２６ 日“大西洋”网站刊发的«当排爆机器人变成武器»一文中,就用大量分析说明,军事机器人可以显著降低路边炸弹的威胁。

人工智能还将引发军事装备的革命性变化,无人自动性致命武器的集群式作战,可能成为未来战争的主角和主要作战方式。设想中的空中无人机“蜂群”、水下无人潜艇“狼群”、地面机器人、无人坦克“蚁群”等一旦出现,将重构“消耗战”“人海战术”的价值,使得舰母、FＧ３５ 战斗机等复杂而昂贵的大型武器平台,从战争成本和作战效能的综合角度看变得不那么具有优势。可以想象一下,当单架成本上亿美元的 FＧ３５ 战斗机对战单价在几千美元的武装无人机集群时,无异于“大炮打蚊子”。

需要说明的是,人工智能对军事的影响尚存在很大不确定性,这种影响可以有多大、如何影响,都并不确定。在 ２０１８ 年 ７ 月清华大学第七届世界和平论坛“人工智能与安全”分论坛的讨论中,有专家提出,虽然目前大致可以判断出机器学习、工业机器人、材料科学等技术的未来发展趋势,但这些技术结合起来给未来战争造成的具体影响尚无法准确预估。 ２０ 世纪前 ３０ 年,当时的德、英、法、意等欧陆军事强国都研发出了坦克、飞机、无线电通信技术等。但是,只有当德国在二战中遂行了“闪电战”后,世界才发现这些新技术作为一个整体竟会给战争带来如此颠覆性的改变。现在,无论“算法战”还是“蜂群”战术,战略界的热议都还是从单项技术出发分析其对作战的影响。如果不能从整体上认识人工智能技术的军事运用,设想出来的应对措施有可能成为昂贵而无用的新“马其诺防线”。

转载请注明：北纬40° » 傅莹：人工智能对国际关系的影响初析