《2019國(guó)防授權(quán)法》設(shè)立了美國(guó)人工智能安全委員會(huì)，該委員會(huì)通過(guò)研究必要的舉措來(lái)推動(dòng)美國(guó)人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù)發(fā)展，多面應(yīng)對(duì)安全和國(guó)防需求。國(guó)會(huì)賦予委員會(huì)從競(jìng)爭(zhēng)力、保持技術(shù)優(yōu)勢(shì)之道、國(guó)際合作和競(jìng)爭(zhēng)趨勢(shì)、促進(jìn)基礎(chǔ)和GJ研究投入、勞動(dòng)力和培訓(xùn)、軍事應(yīng)用的潛在風(fēng)險(xiǎn)、道德倫理問(wèn)題、數(shù)據(jù)標(biāo)準(zhǔn)建立以及人工智能未來(lái)發(fā)展等方面審查人工智能。2019年11月4日，美國(guó)人工智能安全委員會(huì)于向國(guó)會(huì)遞交中期報(bào)告。本文重點(diǎn)介紹“美國(guó)面臨的挑戰(zhàn)”與“美國(guó)政府的行動(dòng)路線”兩部分。

目 錄

一、人工智能討論的范疇

二、人工智能對(duì)美國(guó)安全至關(guān)重要

三、政府人工智能戰(zhàn)略指導(dǎo)方針與實(shí)際執(zhí)行間存在差距

四、對(duì)美國(guó)人工智能L導(dǎo)地位形成巨大挑戰(zhàn)

五、確保美國(guó)人工智能L導(dǎo)地位的五條行動(dòng)路線

人工智能討論的范疇

鑒于人工智能涵蓋范圍非常廣泛，本報(bào)告中，委員會(huì)討論的人工智能重點(diǎn)集中在以下方面：

狹義人工智能與人機(jī)編組

狹義人工智能將會(huì)以多種不同的方式為人類提供協(xié)助，包括在人類認(rèn)為不安全、不想做或無(wú)法d自完成的任務(wù)中充當(dāng)替補(bǔ)。

機(jī)器學(xué)習(xí)

今天的人工智能快速創(chuàng)新浪潮，很大程度上應(yīng)歸因于出現(xiàn)了一種被稱為深度學(xué)習(xí)的機(jī)器學(xué)習(xí)方式。深度學(xué)習(xí)在圖像分類、對(duì)象檢測(cè)、語(yǔ)音識(shí)別、自然語(yǔ)言處理和其他應(yīng)用L域，已被證實(shí)是一項(xiàng)有效的技術(shù)。

人工智能技術(shù)核心

人工智能并非是某個(gè)單一硬件或軟件，準(zhǔn)確地講，它是一系列技術(shù)的集合，需要人才、數(shù)據(jù)、硬件、算法、應(yīng)用程序和集成。

人工智能生態(tài)系統(tǒng)

一個(gè)能夠提供支持的合格產(chǎn)業(yè)生態(tài)系統(tǒng)十分重要，包括法律、資金、機(jī)構(gòu)、政策、人才、知識(shí)產(chǎn)權(quán)保護(hù)、供應(yīng)鏈和反人工智能防御機(jī)制。

人工智能對(duì)美國(guó)安全至關(guān)重要

人工智能可以幫助美國(guó)更有效地應(yīng)對(duì)自然災(zāi)害和突發(fā)事件

具備人工智能的工具和系統(tǒng)能夠協(xié)助守護(hù)邊境安全、偵測(cè)并打擊惡意網(wǎng)絡(luò)活動(dòng)、保護(hù)關(guān)鍵基礎(chǔ)設(shè)施以及有效應(yīng)對(duì)自然災(zāi)害。

人工智能可對(duì)大量數(shù)據(jù)進(jìn)行處理，在海量數(shù)據(jù)中辨別異常，實(shí)現(xiàn)實(shí)時(shí)風(fēng)險(xiǎn)評(píng)估與響應(yīng)，以支援反恐和反間諜工作。

在入境口岸運(yùn)用載有人工智能的傳感器，能夠更有效地阻止武器、違禁品和人員的非法流動(dòng)，幫助美國(guó)更有效地應(yīng)對(duì)威脅與突發(fā)事件。

基于人工智能的分析能夠支持更G質(zhì)量的決策

在一個(gè)遍布傳感器的世界，人工智能算法能夠通過(guò)對(duì)大量數(shù)據(jù)進(jìn)行篩選，找出模式、偵測(cè)威脅并識(shí)別關(guān)聯(lián)。

人工智能工具能夠使衛(wèi)星圖像、通信信號(hào)、經(jīng)濟(jì)指標(biāo)、社交媒體數(shù)據(jù)和其他大型信息源更加易于理解。

將人工智能技術(shù)運(yùn)用于軍事將改變美國(guó)的戰(zhàn)爭(zhēng)方式

在未來(lái)戰(zhàn)場(chǎng)上，軍方能夠借助具備人工智能的機(jī)器、系統(tǒng)和武器更快地了解戰(zhàn)場(chǎng)情況，更快地生成通用作戰(zhàn)態(tài)勢(shì)圖，更快地進(jìn)行相關(guān)決策，在對(duì)抗環(huán)境下實(shí)施更復(fù)雜的多域作戰(zhàn)，將更少的美國(guó)軍人置于險(xiǎn)境以及保護(hù)無(wú)辜者生命并減少附帶損傷。

將人工智能技術(shù)多面集成到軍事系統(tǒng)及行動(dòng)當(dāng)中，能夠提升感知、理解及決策的精度和速度，并獲得超出人類認(rèn)知能力的優(yōu)秀表現(xiàn)，因此有人認(rèn)為人工智能將會(huì)開啟“算法戰(zhàn)爭(zhēng)”的新時(shí)代。

政府人工智能戰(zhàn)略指導(dǎo)方針與實(shí)際執(zhí)行間存在差距

針對(duì)人工智能的戰(zhàn)略指導(dǎo)方針陸續(xù)出臺(tái)

以白宮2019年頒布《維護(hù)美國(guó)在人工智能L域L導(dǎo)地位》的行政命令為開端，美國(guó)政府已經(jīng)意識(shí)到了人工智能對(duì)于安全的重要性并開始出臺(tái)戰(zhàn)略指導(dǎo)方針。

人工智能仍難以得到足夠的政府資金支持

在很大程度上， 人工智能對(duì)于美國(guó)政府來(lái)說(shuō)仍然是一個(gè)難題，因?yàn)樗�不符合由安全需求及�?lián)邦資金來(lái)推動(dòng)技術(shù)發(fā)展的傳統(tǒng)方式。目前，大多數(shù)人工智能應(yīng)用程序都屬于商用范疇，安全方面的應(yīng)用則大多停留在理論層面。

僵化的政府運(yùn)作體系不利于人工智能發(fā)展

在不斷追趕的模式下，政府正嘗試將人工智能與現(xiàn)有的基礎(chǔ)設(shè)施和技術(shù)結(jié)合。由于采購(gòu)、測(cè)試和評(píng)價(jià)體系落后，無(wú)法適應(yīng)人工智能迭代的、基于軟件的屬性，政府的法規(guī)和官僚體制常被視為對(duì)人工智能商業(yè)模式的阻礙。

此外，由于政府缺乏廣博的專業(yè)知識(shí)，難以想象人工智能的前景、涵義、操作理念，使得守舊僵化的思想成為人工智能發(fā)展的主要障礙。

總之，委員會(huì)的初步判斷是：美國(guó)沒有將人工智能L域的優(yōu)勢(shì)和戰(zhàn)略宣言轉(zhuǎn)化成為特定的安全利益，主要部門和機(jī)構(gòu)尚未完全體察上層的戰(zhàn)略政策，因此關(guān)鍵性安全任務(wù)并未納入人工智能。

確保美國(guó)人工智能L導(dǎo)地位的五條行動(dòng)路線

加大人工智能研發(fā)政府投資

委員會(huì)認(rèn)為，雖然人工智能具有巨大的變革性潛力，但目前美國(guó)政府尚未投入足夠的資源去滿足當(dāng)前的研究需求，也未能給未來(lái)的創(chuàng)新制造條件。美國(guó)的人工智能L導(dǎo)地位可能比現(xiàn)在預(yù)想的更早面臨風(fēng)險(xiǎn)。委員會(huì)作出五方面判斷：

一是聯(lián)邦政府撥給人工智能的研發(fā)經(jīng)費(fèi)與其潛在的革命性價(jià)值不匹配，更不及競(jìng)爭(zhēng)對(duì)手在這方面激進(jìn)式的投入，因此亟需比當(dāng)前水平G出數(shù)倍的投資。

二是政府應(yīng)在全國(guó)范圍內(nèi)建造人工智能研發(fā)基礎(chǔ)設(shè)施，并鼓勵(lì)建設(shè)區(qū)域創(chuàng)新集群。

三是官僚體制與資源的局限，阻礙了政府下屬的實(shí)驗(yàn)室和研究中心對(duì)自身人工智能研發(fā)潛力的充分發(fā)揮。

四是美國(guó)政府需要明確目標(biāo)、優(yōu)先上馬、協(xié)調(diào)一切并且爭(zhēng)分奪秒地投入以安全為重心的人工智能研發(fā)。

五是美國(guó)政府應(yīng)實(shí)施更加靈活的出資機(jī)制以支持人工智能研究，不可再墨守成規(guī)。

加快人工智能在安全任務(wù)中的應(yīng)用

安全委員會(huì)認(rèn)為，人工智能是下一次科技飛躍的關(guān)鍵，若能夠妥善加以利用，它將拓展美國(guó)的優(yōu)勢(shì)并在東亞與東歐保持強(qiáng)大威懾力。因此，美國(guó)政府需要加快對(duì)人工智能的應(yīng)用工作。委員會(huì)形成六方面共識(shí)：

一是人工智能可以幫助美國(guó)執(zhí)行重大安全任務(wù)。

二是官僚體制威脅到了政府對(duì)于人工智能安全策略的執(zhí)行。國(guó)防和情報(bào)機(jī)構(gòu)需要即刻加快人工智能應(yīng)用步伐。

三是從國(guó)防部到情報(bào)體系，存在著一大批成功的自下而上的創(chuàng)新。但是，當(dāng)前沒有自上而下的L導(dǎo)力來(lái)克服組織障礙，這些孤立的項(xiàng)目無(wú)法轉(zhuǎn)化為戰(zhàn)略變革。

四是能夠快速部署人工智能成為作戰(zhàn)的必要條件，要在有彈性、強(qiáng)健、可靠和安全的人工智能系統(tǒng)上進(jìn)行投資。

五是人工智能的優(yōu)劣取決于其依托的基礎(chǔ)設(shè)施。而在國(guó)防部?jī)?nèi)部，這類基礎(chǔ)設(shè)施尤其薄弱。

六是美國(guó)政府沒有充分利用基本的商業(yè)人工智能來(lái)提升商業(yè)實(shí)踐并節(jié)省納稅人的錢。部門和機(jī)構(gòu)需要進(jìn)行現(xiàn)代化改造，以提G效率并節(jié)約成本。

培訓(xùn)和招募人工智能人才

委員會(huì)認(rèn)為，增加人工智能人力資本已勢(shì)在必行，政府可以培訓(xùn)自身人力資源、招募新人才以及與外部機(jī)構(gòu)合作。美國(guó)應(yīng)該將從戰(zhàn)場(chǎng)到實(shí)驗(yàn)室的每個(gè)人都納入對(duì)人工智能勞動(dòng)力需求的再思考。關(guān)于培訓(xùn)和招募人工智能人才，委員會(huì)成員形成如下共識(shí)：

一是安全機(jī)關(guān)需要重新思考對(duì)于人工智能勞動(dòng)力的需求。包括提G各個(gè)機(jī)構(gòu)對(duì)人工智能相關(guān)技術(shù)的熟悉度，在人工智能開發(fā)和部署的各個(gè)層J嵌入對(duì)于倫理和責(zé)任方面的培訓(xùn)，以及推廣使用現(xiàn)代軟件工具。

二是美國(guó)的人工智能人才庫(kù)很大程度上要依賴留學(xué)生和國(guó)際勞工。因此，美國(guó)的競(jìng)爭(zhēng)力就取決于吸引和留住全世界D人才的能力。

三是政府應(yīng)著眼于增加人工智能相關(guān)的獎(jiǎng)學(xué)金和交流機(jī)會(huì)，讓官員和服役人員掌握先進(jìn)的人工智能技術(shù)，并將人工智能企業(yè)的人才納入到聯(lián)邦工作中。

四是軍事和安全機(jī)關(guān)需要更好的激勵(lì)和培訓(xùn)機(jī)制，爭(zhēng)取留住人工智能人才。

保護(hù)和建立美國(guó)技術(shù)優(yōu)勢(shì)

為了在保持開放型經(jīng)濟(jì)的同時(shí)，維持美國(guó)在國(guó)防技術(shù)上的優(yōu)勢(shì)，委員會(huì)經(jīng)過(guò)初步研究，形成如下共識(shí)判斷：

一是傳統(tǒng)基于商品的出口管制以及小范圍的外資審查已不足以維持美國(guó)在人工智能L域的競(jìng)爭(zhēng)力。

二是美國(guó)政府應(yīng)該繼續(xù)借由出口管制（包括多邊管制）來(lái)保護(hù)美國(guó)及其盟友特定的人工智能硬件優(yōu)勢(shì)，尤其是在半導(dǎo)體制造設(shè)備方面。

三是美國(guó)需要繼續(xù)在與人工智能相關(guān)的硬件L域保持L先，并確保政府有獲得新技術(shù)的可靠途徑。

四是執(zhí)法部門和學(xué)術(shù)界L導(dǎo)人可以且應(yīng)該找到共同立場(chǎng)，在保持開放性研究體系的同時(shí)，降低美國(guó)校園中存在受外國(guó)政府指示活動(dòng)的安全風(fēng)險(xiǎn)。

引L人工智能合作

隨著人工智能成為聯(lián)合國(guó)和經(jīng)濟(jì)合作與發(fā)展組織等多邊機(jī)構(gòu)關(guān)注的焦點(diǎn)，委員會(huì)正在研究如何發(fā)起一個(gè)聯(lián)盟，來(lái)強(qiáng)化美國(guó)及其盟友的利益與價(jià)值觀，特別是在人工智能規(guī)范與標(biāo)準(zhǔn)方面。委員會(huì)經(jīng)過(guò)初步研究，形成如下共識(shí)判斷：

一是美國(guó)需要建立合作伙伴網(wǎng)絡(luò)，用于人工智能數(shù)據(jù)共享、研發(fā)協(xié)調(diào)、能力建設(shè)和人才交流，以增強(qiáng)自身在人工智能L域的競(jìng)爭(zhēng)力。

二是人工智能對(duì)軍事互用性提出了重大挑戰(zhàn)。如果美國(guó)及其盟友不及早并且經(jīng)常對(duì)人工智能能力進(jìn)行協(xié)調(diào)，那么美國(guó)軍事同盟的效能將受到損害。

三是美國(guó)的外交應(yīng)當(dāng)開放地看待與中俄進(jìn)行合作的可能性，以提升人工智能的安全性，并掌控人工智能對(duì)于戰(zhàn)略穩(wěn)定性的影響。

四是美國(guó)應(yīng)倡導(dǎo)建立積J的議程，就人工智能的發(fā)展與所有進(jìn)行合作，以造福人類。