美国人工智能安全委员会2021年度建议报告中文概要

作者/编者:美国国家人工智能安全委员会
作者单位:美国国家人工智能安全委员会
创作年代:2021
出处/来源:走出去智库(CGGT)
学科分类:综合/其它
所属机构:Wells
文献语种:

摘要

当地时间3月1日,美国国家人工智能安全委员会(NSCAI)投票通过,并向美国国会提交了长达756页的2021年度最终建议报告。该报告指出,中国在人工智能开发领域位于世界前沿,美国政府在应对人工智能的新威胁方面“毫无准备”,必须实施重大变革。NSCAI由谷歌前CEO埃里克•施密特领导,上周其在美国国会参议院听证会上极力渲染美国在科技领域对抗中国的“紧迫性”,认为中国在关键技术领域的领导地位所带来的威胁是一场国家危机。微软总裁布拉德•史密斯在该听证会的书面证词中表达了同样的担忧。

关键词: 美国 中国 报告 科技竞争 人工智能

正文

    当地时间3月1日,美国国家人工智能安全委员会(NSCAI)投票通过,并向美国国会提交了长达756页的2021年度最终建议报告。该报告指出,中国在人工智能开发领域位于世界前沿,美国政府在应对人工智能的新威胁方面“毫无准备”,必须实施重大变革。

NSCAI由谷歌前CEO埃里克•施密特领导,上周其在美国国会参议院听证会上极力渲染美国在科技领域对抗中国的“紧迫性”,认为中国在关键技术领域的领导地位所带来的威胁是一场国家危机。微软总裁布拉德•史密斯在该听证会的书面证词中表达了同样的担忧。

要 点

1、如果不能使用人工智能来解决真正的国家安全挑战,美国可能会处于不利地位,让美国军人更加脆弱,并不明智地把纳税人的钱花在过时和低效的设备上。

2、中国有组织、有资源、有决心赢得技术竞赛。人工智能是中国全球扩张、经济和军事实力以及国内稳定的核心。

3、美国政府应该开发和应用具有足够透明度、强有力的监督和问责制的人工智能技术,以防止滥用。

正 文

人工智能(AI)技术有望成为几代人以来最强大的工具,用于扩展知识、促进繁荣和丰富人类经验。这些技术将成为创新经济的基础,为驾驭这些技术的国家提供巨大的动力。人工智能将加剧政府和企业之间的竞争,被一些国家用来追求他们的战略野心。

美国人还没有真正意识到人工智能革命将对社会、经济和国家安全产生多么深远的影响。人工智能最近取得的突破,比如在流行的围棋策略游戏中,计算机打败了人类这一事件震惊了其他国家,促使它们采取行动,但在美国却没有引起同样的反应。尽管美国私营部门和大学在人工智能方面处于领先地位,但美国对这个即将到来的时代仍然没有做好准备。美国人必须认识到政府在确保美国赢得这场创新竞争中所扮演的独特角色。国会和总统将不得不支持实现这一目标所需的公共资源规模。

巨大的技术机会与战略脆弱性时刻保持一致。中国是一个拥有实力、人才和雄心的竞争对手,可以挑战美国的技术领先地位、军事优势和更广泛的世界地位。人工智能正在加深网络攻击和虚假信息活动中构成的威胁,俄罗斯、中国和其他国家和非国家组织正利用这些攻击和虚假信息活动渗透到我们的社会,窃取我们的数据并干预我们的民主。迄今为止,使用人工智能进行攻击只是冰山一角。与此同时,以全球大流行病和气候变化为代表的全球危机正在扩大国家安全的定义,呼唤创新的技术解决方案。人工智能可以帮助我们应对许多新的挑战。

我们是幸运的,人工智能革命并非战略上的意外。我们正在经历它对日常生活的影响,在不得不面对全面的国家安全影响之前,可以预测研究进展将如何转化为现实世界的应用。NSCAI可以就国家安全面临的挑战发出警告,并阐明其好处,而不是解释为什么先前的警告被忽视,机会被错过。我们仍有机会做出改变,建设一个更安全、更美好的未来。人工智能创新的步伐并不平坦:它正在加速。如果美国不采取行动,它在人工智能领域的领导地位可能会在未来10年被中国取代,并在一系列由国家和非国家组织制造的人工智能威胁面前变得更加脆弱。

该委员会得出结论,美国需要实施一项战略,在人工智能时代进行防御和竞争。白宫必须领导重组政府和调整国家方向。本报告介绍了该战略的核心要素。

•第一部分,“在人工智能时代保卫美国”(第1-8章),概述了美国必须做什么来抵御来自国家和非国家行为者的一系列人工智能相关威胁,并建议美国政府如何负责任地使用人工智能技术来保护美国人民和我们的利益。

•第二部分,“赢得技术竞赛”(第9-16章),概述了人工智能在更广泛的技术竞赛中的角色。每一章都讨论了竞争的一个关键因素,并建议政府必须采取的行动,以促进人工智能创新,提高国家竞争力,保护美国的关键优势。

为什么人工智能很重要?

1901年,托马斯•爱迪生被要求预测电力对人类的影响。在电灯泡开发20年后,他预见了一种具有无限可能性的通用技术。他说:“(电力)是田地中的田地” ([Electricity] is the field of fields),“它掌握着重组世界生命的秘密。”人工智能是一种非常不同的通用技术,但我们正处于类似的转折点,也看到了类似的广泛影响。计算机系统在解决问题和执行需要人类智慧才能完成的任务方面的能力迅速提高,正在改变人类生活的许多方面和科学的每一个领域。它将被纳入几乎所有的未来技术。支持我们经济和安全的整个创新基地都将利用人工智能。这些“田中之田”是如何使用的——无论是善是恶——将会重组世界。

NSCAI的评估基于对人工智能当前发展状况的现实理解,以及对该技术将如何发展的预测。

人工智能已经在日常生活中无处不在,创新的步伐也在加快。我们想当然地认为,人工智能已经在大大小小的方面塑造了我们的生活。一款“智能手机”拥有多种人工智能功能,包括语音助手、照片标签、面部识别安全、搜索应用、推荐和广告引擎,以及其操作系统中不太明显的人工智能增强功能。人工智能正在帮助预测大流行病爆发的蔓延和升级,规划和优化货物和服务的分配,监测交通流量和安全,加快药物和治疗方法的发现,并使日常办公功能自动化。认识到变化的速度对于理解人工智能的力量至关重要。人工智能技术在解决问题方面的应用正在压缩创新的时间尺度,并将一度不切实际的想法在一系列学科中变成现实。

部署和采用人工智能仍然是一个难题。人工智能无法神奇地解决问题。随着人工智能从精英科学转型为主流工具,工程将与科学突破一样重要。各个行业的早期采用者都吸取了类似的教训:即使科学已经解决,尝试使用人工智能也是一项艰巨的任务。许多最重要的现实世界影响将来自如何利用现有的人工智能算法和系统,有些已经有10多年的历史。集成的挑战是巨大的。利用数据、加固和打包实验室算法,使它们可以在现场使用,并使AI软件适应遗留设备和严格的组织,所有这些都需要时间、努力和耐心。集成人工智能通常需要克服大量的组织和文化障碍,这需要自上而下的领导。

人工智能工具正在广泛而迅速地扩散。尖端的深度学习技术通常非常昂贵,需要大量的数据、计算能力和专业知识。然而,人工智能不会只是大国和科技巨头的专利。许多推动人工智能应用的机器学习工具都是公开的,甚至非专业人士也可以使用。开源应用程序和开发工具结合廉价的云计算和较少的数据密集型方法,正在世界各地为国家和非国家组织扩大人工智能的机会。

人工智能正在改变人与机器之间的关系。在现代社会,我们对机器和自动化的依赖已经远远超过了我们可能意识到的程度。例如,美国军方几十年来一直在使用自动系统。然而,随着人工智能能力的提高,人机“团队”内部的动态将发生变化。在过去,计算机只能执行一组明确定义的参数或由人类编写的规则内的任务。随着人工智能的能力越来越强,计算机将能够根据人类没有明确编程的参数学习和执行任务,以前所未有的速度创建选择并采取行动。在人类活动的许多领域,人工智能创新提出了一些重要问题:在什么情况下,出于什么原因,应该将哪些选择委托给智能机器。在国家安全领域,随着人工智能被整合到国防和情报系统中,这些问题将变得更加重要。在我们整个社会,我们将需要用微妙的方法、求知欲和意识到人工智能日益普及的关心来解决这些新的复杂性。

第一部分:在人工智能时代保卫美国

技术在社会的其他方面如此普遍,将对国际竞争和冲突产生同等的影响。我们必须采用人工智能来改变我们保卫美国的方式,威慑敌人,使用智能来理解世界,打并赢得战争。这些保护美国的人必须能够利用人工智能和相关技术,帮助他们尽快、安全地完成任务。

人工智能是典型的“两用”技术——可以用于民用和军事目的。人工智能的技术承诺是:机器可以在更复杂的环境中以比人类更精确的速度感知、决定和行动,这在任何领域都是一种竞争优势。它将被用于军事目的,由政府和非国家组织使用。

可以期待人工智能功能的大规模扩散。许多涉及国家安全的人工智能应用只需要有限的资源和好的(但不是很大的)专业知识。人工智能算法通常是可访问的,硬件是“现成的”,并且在大多数情况下消费者都可以使用(例如图形处理单元)。任何人都可以轻松下载和使用“深度造假”功能,AI启用的工具和变异的恶意软件掌握在黑客手中,廉价、致命的无人机将变得普遍。2020年10月,阿塞拜疆在与亚美尼亚的战斗中使用了土耳其无人机和以色列的巡航弹药,这证实了自主军事能力 的广泛传播。许多州正在观察并从这些经验中学习。流氓国家、罪犯或恐怖分子鲁莽或不道德地使用人工智能技术的可能性正在增加。

人工智能的能力将成为新冲突时代的首选工具。决心挑战美国、但避免直接军事对抗的国家和非国家组织,将利用人工智能放大现有工具并开发新的工具。对手正在利用我们的数字开放,通过人工智能加速的信息采取行动和网络攻击。随着对手意识到广告和技术公司多年来的认识:机器学习是收集、分析数据和定位活动的强大工具。利用间谍活动和公开的数据,对手将收集信息,并使用人工智能识别个人、社会和关键基础设施的漏洞。他们会模仿如何最好地操纵行为,然后采取行动。

人工智能将改变军事活动的各个方面。人工智能应用将帮助军队更快、更有效地做好准备、感知和理解、决定和执行。许多武器系统将利用一种或多种人工智能技术。AI系统将为指挥官生成选项,并创建连接所有领域系统的战斗网络。它将改变物流、采购、培训以及新硬件的设计和开发。采用人工智能将要求开发新的战术和作战概念。在未来,战争将使算法对抗算法。战场优势的来源将从传统的因素,如部队规模和军备水平,转向优越的数据收集和同化、连通性、计算能力、算法和系统安全等因素。

竞争对手正在积极开发用于军事用途的人工智能概念和技术。俄罗斯计划将其大部分军事系统自动化。它不负责任地在叙利亚部署了用于战场测试的自主系统。中国视人工智能为新一代跨越式技术,以此作为抵消美国传统军事优势的途径。中国军方已经接受了“智能战争”——例如,投资开发成群结队的无人机,以争夺美国海军的霸主地位。一些国家军方领导人公开谈论使用人工智能系统进行“侦察、电磁对抗和协调火力打击”。一些国家正在围绕真实场景设计的军事游戏中测试和训练人工智能算法。由于这些威权国家部署了新的人工智能军事系统,我们担心它们不会受到美国军队所遵循的严格测试和道德准则的限制。

人工智能将彻底改变智能的实践。也许没有比情报间谍技术和分析更适合采用人工智能的国家安全职能。机器将筛选来自所有来源的海量数据、定位关键信息、翻译语言、融合来自不同领域的数据集、识别相关性和连接、重定向资产,并通知分析师和决策者。保护美国人民,也许最紧急的和令人信服的理由来加速使用AI对国家安全的可能性,更先进的机器分析能提前找到下一个攻击,当人类单独分析可能不能清楚地看到全貌。

在不使用AI的情况下对抗具有AI能力的对手是在自找麻烦。人工智能将把决策时间框架从几分钟压缩到几秒钟,扩大攻击的规模并要求响应,从而挑战人类认知的极限。没有人工智能机器的协助,人类操作员将无法抵御人工智能发动的网络或虚假信息攻击、无人机群或导弹攻击。最优秀的操作员无法抵御每秒数千次机动的多台机器,这些机器可能以高超音速移动,并由人工智能跨领域协调。人类不可能同时出现在任何地方,但是软件可以。

令人信服的逻辑要求迅速、但谨慎和负责任地采用人工智能。政府应该采用AI,遵循传奇篮球教练约翰•伍登的原则:“要快,但不要着急。”人工智能的其他“安全关键”应用一样,在开发和投入使用之前,军事和情报功能需要深思熟虑和谨慎。

当前的一些人工智能系统狭窄而脆弱。所有这些都需要严格的测试、保护措施,并了解它们在现实世界中与在试验台中不同的操作方式。人工智能自动武器系统可以更加精确,从而减少平民的意外伤亡。但它们也提出了关于人类判断在使用致命武器中所起作用的重要伦理问题。如果设计或使用不当,它们还可能增加军事升级的风险。

关于在国防和情报领域负责任地使用人工智能的原则,人们正在形成共识。如果人工智能驱动的机器不能按照设计的可预见性和明确的原则指导工作,那么运营商就不会使用它,组织不会接受它,美国人民也不会支持它。如果匆忙会导致美国人对美国失去信心,那将适得其反,而且是危险的。

人工智能可以带来的好处,然而风险是不可避免的。如果不能使用人工智能来解决真正的国家安全挑战,美国可能会处于不利地位,让美国军人更加脆弱,并不明智地把纳税人的钱花在过时和低效的设备上。推迟采用人工智能将把所有的风险推给下一代美国人——他们将不得不用20世纪的工具来抵御,甚至可能与21世纪的对手作战。

美国政府仍然以人类的速度运转,而不是机器的速度。采用人工智能需要对国家安全业务实践、组织文化以及从战术到战略层面——从战场到五角大楼——的思维方式进行深刻调整。政府在大多数人工智能领域落后于最先进的商业状态,包括基本的商业自动化。它的技术缺陷包括数字劳动力短缺、不充分的收购政策、不充分的网络架构和薄弱的数据实践。官僚主义正在阻碍与私营部门的人工智能领导者建立更好的伙伴关系,而这可能会有所帮助。政府必须成为更好的客户和合作伙伴。在缺乏重大战争或恐怖袭击等动力的情况下,国家安全创新将需要强有力的领导。

第二部分:赢得技术竞赛

除了人工智能在国家安全和国防领域的狭义应用外,人工智能还是世界上一场更广泛的技术竞争的支点。人工智能将在各个方面发挥作用,从医疗保健到食品生产再到环境可持续性。人工智能的成功应用将推动经济、塑造社会,并决定哪些国家在世界上施加影响和行使权力。许多国家都有国家人工智能战略,但只有美国和中国拥有在人工智能领域引领世界的资源、商业实力、人才库和创新生态系统。在一些研究和应用领域,中国已经是人工智能的同行,而且在某些应用领域技术更先进。在未来十年内,中国可能会超过美国,成为世界人工智能超级大国。

在公平竞争的环境下,美国有能力超越任何竞争者。然而,今天,美国和中国在人工智能创新方面的根本不同,使美国的人工智能领导地位处于危险之中。几十年来,美国的创新模式一直是全世界羡慕的对象。开放的思想交流、自由的市场和有限的政府参与支持基础研究,是美国创新方式的支柱,也反映了美国的价值观。在美国,科技公司争夺市场份额,它们不是国家权力的工具。研究人员在一个开放的研究环境中合作,与同行竞争,在不考虑边界的情况下实现人工智能突破。风险资本的国际流动和与人工智能相关的商业受到了鼓励,因为企业为了利润和下一个大创意而竞争。

在美国,大多数人工智能的进步应该留给私营部门和大学。我们不能失去一种自下而上、充满车库式创业思维的创新文化。然而,在这场战略竞争中,完全分布式的方法并不是制胜策略。即使是大型科技公司也不能指望与中国的资源竞争,或进行美国保持领先所需的大笔投资。我们需要一种结合政府和私营部门努力的混合方法来赢得技术竞争。

中国有组织、有资源、有决心赢得技术竞赛。人工智能是中国全球扩张、经济和军事实力以及国内稳定的核心。 作为在几个关键和新兴技术领域引领世界的更大计划的一部分,中国在执行国家人工智能计划方面领先一步。从2017年开始,中国制定了与具体时间表相联系的人工智能目标和战略,并在承诺的资源支持下,到2030年在人工智能领域引领世界。中国正在执行一项中央指导的系统计划,通过间谍活动、人才招聘、技术转让和投资,从国外获取人工智能知识。它有雄心勃勃的计划,要在新的人工智能中心建设和培训新一代人工智能工程师。它支持“国家龙头”企业(包括华为、百度、阿里巴巴、腾讯、科大讯飞和商汤科技)引领国内人工智能技术的发展,在军民融合的框架下推进国家主导的优先事项,支持军事和安全项目,并占领海外市场 ,包括跨越几个大洲的大规模数字基础设施项目。中国制定了一项知识产权(IP)战略,并试图为人工智能制定全球技术标准,而且它的法律规定,在中国的公司几乎不可能保护它来自当局的数据。

人工智能的进步正在促进电子商务、搜索引擎、社交媒体和许多其他领域的广泛平台技术竞争。在计算、数据、人才和商业化等人工智能领域的竞争中获胜的国家、公司和研究人员,将会赢得一场更大的比赛。从本质上讲,更多更好的数据,由更大的消费者/参与者基础提供,产生更好的算法,从而产生更好的结果,从而产生更多的用户、更多的数据和更好的性能,直到最终越来越少的公司将成为主导平台。如果中国企业赢得这些竞争,它不仅会使美国商业企业处于不利地位,还将为美国及其盟友面临的地缘政治挑战创造数字基础。在海外占据平台优势,使中国能够获取用户的数据,并扩大国内控制体系的方方面面。只要中国控制了数字基础设施、社交媒体平台和电子商务,它就会拥有更大的影响力和力量来强迫、宣传和塑造世界,使其符合自己的目标。

人工智能的竞争因深层次的相互联系而变得复杂。美国和中国不像苏联和美国在太空竞赛中那样并行运作,没有独立的研发企业和极少的商业联系。中美两国的研究生态系统通过共同的研究项目、人才流动(特别是从中国到美国的人才流动)以及包括供应链、市场和联合研究企业在内的商业联系而紧密相连。切断对基础研究和美国公司有利的与中国的技术联系将适得其反。然而,美国必须保护开放研究的完整性,防止美国知识产权被窃取,并采用有针对性的工具,如出口控制和投资审查,以保护对国家安全至关重要的技术产业。

美国在关键领域仍有优势,但趋势令人担忧。如今,世界上最优秀的科学人才更有可能留在国内或迁移到其他地方。美国在微电子(所有人工智能运行的硬件)领域的领先地位已经减弱,在尖端芯片方面,美国依赖于外国供应链和亚洲的制造商,而这些供应链和制造商很容易受到胁迫或中断。尽管许多机器学习工具随处可得,单位计算成本已经下降,但尖端深度学习研究突破所需的计算能力和数据访问能力,正使大学研究人员和小型公司更难与之竞争。创新的地理位置仍然只集中在该国的某些地区。

美国政府必须对国家技术采取亲力亲为的方式增加竞争力。促进多样化和有弹性的研发生态系统和商业部门是政府的责任。扩大人才渠道以吸引世界上最好的人才,并加倍努力教育为人工智能做好准备的美国人,是公共政策的选择。明智而积极地保护关键的人工智能知识产权,阻碍竞争对手开展的知识非法转让活动是政府的一项义务。保护硬件优势和在供应链中建立弹性,需要立法和联邦激励。将志趣相投的盟友和合作伙伴聚集在一起,建立一个国际联盟,以确保塑造数字未来的人工智能的民主愿景以主导外交。

人工智能的竞争将需要白宫的领导。该战略的关键要素过于复杂,任何一个部门或机构都无法领导,因为它们跨越了国家安全、经济和技术政策。只有来自白宫强有力的行政领导才能推动政策,迫使各方进行权衡,并动员全国人民来实现必要的投资。

人工智能的目的是什么?技术和价值观

世界各国政府对人工智能的广泛采用,不仅影响着国家之间的国际秩序,也影响着国家内部的政治秩序。人工智能未来的利害关系与专制和民主政治体系以及意识形态之间的持久竞争密切相关。

技术本身并没有意识形态,但它是如何设计的,在哪里使用,以及由哪些法律来管理它的使用,这些都反映了设计和使用它的人的优先级和价值观。更多的人工智能监控和分析能力将很快掌握在大多数或所有政府手中。随着技术的扩散,各国之间的主要差异与技术的质量或复杂程度的关系将减少,而更多地与使用技术的方式有关——出于什么目的,根据什么规则。

专制政权将继续使用人工智能人脸识别、生物识别、预测分析和数据融合作为监视、影响和政治控制的工具。这些数字系统在全球的流通,为更广泛地采用专制治理创造了前景。但自由民主国家也将人工智能用于内部安全和公共安全目的。世界上超过一半的先进民主国家使用人工智能监控系统。这些技术具有合法的公共目的,也符合法治。然而,在逐渐走向不自由做法的国家,以破坏法治的方式使用数字工具,可能会使天平向进一步的民主倒退倾斜。维护个人自由需要继续保持警惕。一个负责任的民主国家必须确保政府对人工智能的使用受到明智的限制,以符合自由定义和开放社会的权利与自由。

美国政府应该开发和应用具有足够透明度、强有力的监督和问责制的人工智能技术,以防止滥用。只是说美国反对人工智能的专制使用是不够的。美国还必须证明,一个民主国家应该如何通过维护自由民主价值观的方式,利用人工智能保护其公民的安全。出于国家安全的目的,我们迫切需要部署人工智能,例如,针对在我国境内活动的国内外恐怖分子。此外,还需要确保人工智能的安全应用符合个人自由和法律平等保护的核心价值观。

美国必须领导民主国家的联盟。在我们确保以对国内民主安全的方式开发和使用人工智能之际,我们也必须促进全球规范,使人工智能的使用对国外民主的安全。虽然美国政府影响其他国家治理实践的能力有限,但美国外交政策议程中有关人工智能的一个重要内容,必须是促进人权和反对技术威权主义的趋势。美国可以使用外交和利用其全球伙伴关系,倡导建立国际组织当中的技术标准和规范,它可以与志同道合的国家合作,以确保其他国家有另一个拥抱中国的技术和社会控制的方法和技术,保护民主价值观等隐私。我们不寻求一个支离破碎的数字世界,我们希望美国及其盟友生活在一个在数字基础设施、电子商务和社交媒体方面有多种选择的世界里,这些选择不会容易受到威权胁迫的影响,并支持言论自由、个人权利、隐私和对不同观点的容忍。

结论

我们正处在这个竞争新时代的开端。我们现在知道,人工智能在生活各个方面的应用将会增长,创新的步伐将会加快。我们知道对手决心利用人工智能能力来对付我们。我们知道有竞争对手决心在人工智能领域超越我们。我们知道人工智能正在很多领域加速突破。我们知道,谁先将人工智能的发展转化为应用程序,谁就拥有优势。

现在我们必须行动起来。我们要建立原则进行联邦投资,为人工智能在国家安全领域的应用,重新设计组织、建立的伙伴关系和联盟,以及我们培养的人才,都将决定美国的战略方向。美国应尽其所能保持其创新领先地位,负责任地使用人工智能捍卫自由的人民和自由的社会,推进科学前沿,造福全人类。

人工智能将重组世界,美国必须带头冲锋。(仅供参考,内容以英文原文为准)

来源:走出去智库(CGGT)

阅读全文

为你推荐RECOMMEND

收藏
翻译服务
下 载

该文档为付费内容,请购买后阅读全文

翻译服务

美国人工智能安全委员会2021年度建议报告中文概要

我们提供文献翻译服务,请填写您的联系方式,方便我们与您取得联系

提交
客服热线:13801067850 座机:010-88578296

提交成功

我们会在3个工作日内与您取得联系,请保持手机联系方式畅通