應美國情報高級研究計劃局（IARPA）的要求，哈佛大學肯尼迪政治學院貝爾弗科學與國際事務中心與2017年7月發布《人工智能與國家安全》報告，分析人工智能（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。本報告分為以下幾個部分，我們將在接下來幾天內，摘選報告部分主主體內容與大家共同分享學習。

第一部分：人工智能的變革潛力

第二部分：學習以前的變革性技術案例

第三部分：關於人工智能和國家安全的建議

結論

【深度】哈佛大學：人工智能和國家安全（八）AI與國家安全的11點建議與結論

附錄：變革性國家技術的案例研究

哈佛大學報告：人工智能與國家安全（十一）

變革性國家技術的案例研究

案例研究 #3：互聯網和網絡技術

歷史

美國政府在網絡空間作戰的三種基礎技術（數字計算、互聯網網絡和密碼學）的演化過程中起著不可或缺的作用。按照P.W.Singer和艾倫·弗裏德曼（Allan Friedman）的說法，“網絡空間”指“以在線方式儲存、共享及傳送信息的計算計網絡領域（以及網絡背後的用戶）”。現代網絡空間通過三種技術來實現：

1. 數字計算（尤其使用了矽集成電路）：允許通過機器來儲存及處理信息

2. 互聯網網絡化：允許按照一種標準（即互聯網協議）來連接、統一不同類型的網絡

3. 密碼學：允許無關的用戶共享數據和基礎設施，同時保持數據的機密性和完整性

所有這三種技術都得到了美國政府的積極支持。這種支持對於互聯網的發展來說至關重要——從互聯網在20世紀70年代投入最初應用一直到在90年代呈現出更加商業化的性質。

關鍵的技術方面

破壞潛力：中等

隨著世界上越來越多的系統與計算機連接，繼而與互聯網連接，網絡攻擊的破壞潛力也相應地增加了。最典型網絡攻擊的破壞力相當低，但潛力相當大。我們用三個例子來說明技能型網絡攻擊的破壞力：

•網絡能力可增強實際軍事襲擊：據報道，在2006年，以色列情報機構摩薩德利用網絡攻擊迷惑了敘利亞的整個防空雷達網絡，使以色列空軍順利進入敘利亞領空而沒被發現，直到以色列啟爆了導彈。黑客攻擊可能能夠讓對手進入與核武器有關的系統，但可行性有多大尚不清楚。

•網絡能力會直接損壞實體基礎設施：在2010年，伊朗的核計劃推遲了很多年，原因是一次網絡攻擊導致伊朗的離心機猛烈自毀（Singer和弗裏德曼，117）。原則上，這類攻擊可用於毀壞很多類型的商用/軍用基礎設施。

•網絡間諜活動可獲得高度機密信息：據報道，中國政府派黑客攻擊了與F-35計劃有關的許多美國國防承包商和軍事組織。F-35的研發成本超過了500億美元，而中國據信已獲得了與這種飛機有關的幾乎所有知識產權。有人認為，中國還派黑客攻擊了與美國核武庫有關的絕密信息。

但網絡與核能力或航空航天能力不同，因為網絡能力的破壞潛力很難測試、證明。若公然宣布某人正在研究敵人網絡的漏洞，通常會促使敵人堵住那個漏洞。因此，網絡武器的“博奕論”方面仍然不明確，仍備受爭議。關於這些問題的深入探討，見本作者發表在Vox上的文章。

成本狀態：不貴

網絡技術很便宜，甚至連恐怖分子和罪犯都買得起很有用的網絡技術。就拿現有的所有產品化軟件來說，附加產品的邊際成本幾乎為零。對於那些只對別人開發的網絡加以利用的團體或個人來說，邊際成本常常極低。

• 個別攻擊類型成本極低：國防部報道稱每天都會遭到1000多萬次網絡入侵。但一些行動者——尤其是美國——看到了在網絡上花“重金”所帶來的價值。在為2017財年制定預算時，當時的總統奧巴馬請求將網絡安全的預算增至1700萬美元，同比增長了35%。這個數字既反映了美國在保證其廣泛數據網絡的安全時面臨的挑戰規模，也反映了美國在利用它國網絡的漏洞方面抱有的野心程度。

盡管如此，通過網絡提供的能力還是要比以其它方式提供時的成本要低很多個數量級。 正如布魯斯·施奈爾（Bruce Schneier）指出，“極度偏執的東德政府讓102000名斯塔西人員監視1700萬人口：也就是說在每166名市民中派一名間諜，或者在每66名市民中派一名間諜（如果包括市民線人在內）。”通過利用數字監視功能，情報機構——甚至企業——都能利用遠比斯塔西少得多的資源收集有關數億乃至數百億人的數據。

技術復雜性狀態：中等

如前所述，網絡作戰的類型、先進性和影響有廣泛的多樣性。所需要的技術先進性也相應地不同。一些攻擊類型，例如擊垮了伊朗的1/5核離心機的蠕蟲病毒，很可能要求被攻擊的資源和能力只存在於軍事機構和情報機構內。其它攻擊類型，例如以獲得用戶憑證為目的的魚叉式“網絡釣魚”攻擊，可由所謂的“腳本小子”黑客來執行——他們對自己利用的漏洞缺乏詳盡的技術了解。但根據被盜憑證的系統授權的不同，魚叉式“網絡釣魚”攻擊也可能極具影響力。

軍用/民用“兩用”潛力：高

關於使用和訪問數字網絡的基本要求對商用用戶和軍用用戶來說是類似的。在2011年，超過90%的軍用數字通信是在民用網絡上發生的。同樣，軍隊也廣泛采用了商用計算硬件，但有時要修改這些硬件以達到軍隊的安全要求或作戰要求。在網絡防禦作戰方面，軍隊和民間團體擁有很多共同的需求——保證數據的機密性、完整性和服務可用性。這兩類群體需要用強有力的加密術來保證數據安全，並快速修補所用系統的漏洞。隨著美國的企業越來越多地受到網絡罪犯和敵國的威脅，他們對網絡安全的需求也相應地增加了。在2015年，商用網絡安全市場據估計為750億美元，到了2020年這個數字可能會加倍。

間諜活動和監視的困難程度：很難

網絡能力難以監視。軍用網絡設備通常與商用信息技術設備很相似。隨著互聯網安全性對於商業實體來說變得越來越重要，商業公司員工的培訓和工作經歷可能會越來越類似於攻擊型網絡實體的培訓和工作經歷。在某種程度上，“網絡攻擊和漏洞利用要比網絡防禦容易得多”這一事實使得很多更先進的政府軍事組織能夠相互滲入和相互監控，但實際上這個過程很秘密、不為人知。此外，罪犯和恐怖分子團夥都非常成功地隱藏了自己的在線活動。

政府管理方法

政府非常積極地支持美國的半導體行業，半導體是現代數字計算的關鍵技術引擎。

在半導體行業的初期和成熟期，美國政府的幹預對於這個行業的發展來說至關重要。在初期，美國軍隊扮演著研發補助者和重要客戶的角色，這對推動半導體行業的投資、創新和成長來說極其重要。在1987年，國防部在美國半導體行業科研聯盟中投入了高達1億美元的研發資金。這對恢復美國相對於日本的競爭力來說至關重要。

總的來說，美國政府非常積極地支持互聯網聯網技術的開發和計算機科學研究。

美國國防部高級研究項目管理局（DARPA，即以前的“ARPA”）是為長期先進研發項目提供資助的主要政府防禦機構。大學科學家以DARPA項目經理身份在DARPA的資助下工作，開發了ARPANET——一種用於共享計算資源存取的網絡。在1973年，斯坦福大學教授溫特·瑟夫（Vint Cerf）與ARPA的羅伯特·卡恩（Robert Kahn）合作開發了一種互聯網協議，最終演變成可用於連接任何兩個信息網絡的通用標準。在發明了互聯網協議之後，政府又通過資助互聯網主要基礎設施的采購、促進互聯網在政府科研機構中的應用以及資助持續的技術研發和標準化，不斷地支持著互聯網的開發。

從1975年一直到1996年，計算機科研人員獲得的非保密聯邦政府資助增加了將近5倍——從大約2億美元增加到將近10億美元（$1995）。

美國政府在先進密碼數學和技術的開發上進行了重大投資，但幾十年來只允許在政府機構中使用該技術。

美國國家安全局（NSA）自從成立以來，已經與密碼研究機構建立了親密的關系。NSA的兩大使命是保證美國通信的機密性以及攔截其它政府的通信信息。因此，自成立以來，NSA已雇用了大量的數學家和工程師來開發先進的密碼技術以及其他信息安全技術。

美國軍隊和情報界也是密碼技術的最大客戶。因此，政府擁有最好的保密能力。但與數字計算技術和聯網技術不同的是，在戰後的好幾十年裏美國政府對密碼術的官方政策是“密碼術是一種機密到在法律上須按軍需品對待的技術”。因此，美國政府禁止美國公司在國外銷售先進的密碼軟件。

但幾乎所有的美國信息技術公司並沒有為國際國內市場開發不同版本的軟件，而是使用了弱到能在國際國內市場上不受美國政府出口限制的密碼軟件。較弱的密碼標準很容易被有意者非法侵入，但在互聯網初期，美國政府認為這種風險很低。僅在20世紀90年代後期，這道禁令才被解除。當時，非NSA附屬學術機構在開發強有力的密碼術方面取得了相當大的進步，有競爭力的優質國外密碼軟件也到處都能買到。

政府管理方法的結果

保持美國的軍事技術領導地位：成功

到目前為止，美國擁有最先進的網絡攻擊能力和防禦能力，但我們還不清楚美國在網絡上的統治地位是否能與美國在航空上的統治地位相提並論，因為在航空上，美國能形成毫無爭議的空中優勢，而且還能阻止其它軍隊在指定的空域作戰。美國的任何對手都不太可能通過部署轟炸機將美國的發電站或雷達裝置炸毀。但通過利用網絡，美國的很多潛在對手如今都能夠摧毀美國本土的發電站或使雷達不能用。在2014年，NSA的局長邁克爾·羅傑斯（Michael Rogers）上將在國會面前出示了證據，證實中國及其它國家目前有能力利用網絡攻擊使美國的電網崩潰。這可能是由於美國未能在網絡防禦上充分地投資及規劃，或者可能只是因為網絡空間作為一個作戰領域，面臨著尤其困難的技術現狀。

支持網絡技術的和平利用：部分成功

無庸置疑，美國的互聯網和信息技術產業在全世界都領先。在互聯網技術行業，美國企業擁有世界領先的搜索功能、社交網絡、手機硬件、互聯網基礎設施和雲計算服務。總的來說，美國的互聯網政策為美國的經濟增長和在這個領域的競爭力提供了支持。但並非所有的美國政策都有助於提高美國企業在互聯網行業的競爭力。由於NSA在20世紀90年代中期一度限制使用先進的密碼軟件，歐洲的軟件變得比預期的更具競爭力。另外，很多美國公司都聲稱，政府對美國數字設備和網絡的監視損害了美國企業在出口市場上的競爭力。在提到美國政府在2013年做的監視報告時，臉書的CEO馬克-紮克伯格（Mark Zuckerberg）說，“政府的回答是，‘哦，不要擔心，我們不是在監視任何美國人。’哦，那太好了：如果這樣，政府將真的能幫助互聯網企業為全世界的人類服務，並將真正鼓舞人們對美國互聯網公司的信心。”近年來，美國的技術公司（例如蘋果）已表現出越來越想拒絕政府關於數字監視合作的請求。

緩解網絡技術的巨災風險：部分失敗

雖然美國在網絡攻擊方面取得了令人稱奇的成功，但幾十年來政府未能制定一種能充分解決在網絡防禦中面臨的非對稱弱點的戰略。正如國家情報局前局長麥克·康耐爾（Mike McConnell）在2010年對國會提供的證據所述，“如果美國如今開始網絡作戰，那麽我們一定會輸。我們不是最弱的，但我們的聯網性最強。我們最有可能輸。”前面提到的F-35知識產權損失從另一個角度說明了這種非對稱性弱點：當中國或其它對手攻擊美國網絡時，他們幾乎不花一分錢就能竊取我們花了5000萬美元才開發出來的尖端技術和設計。而當美國攻擊中國的網絡時，美國只能獲取一些老的、基本上過時的軍事技術，雖然實際情況很可能並非總是如此。還沒有人因為竊取F-35計劃而死亡，但在未來的戰爭中，中國將擁有他們自己本不會有的軍事能力——也可能是新的導彈或飛機或電子對抗。在戰爭中，這種失敗將以美國軍人的生命作為代價。

自從康耐爾提出證據以來，這種情形已經有了改善。美國聯邦政府——尤其是國家安全機構和國土安全機構——為商業公司提供了越來越多的支持，以保證其網絡和系統的安全。盡管如此，政府問責辦公室在2017年做的一份報告發現，聯邦政府仍需要做更多的工作來保護自己的網絡。

幹貨貼：關於互聯網產品外觀專利創新方法的那些事