在移動互聯網、大數據、超級計算、傳感網、腦科學等新理論新技術以及經濟社會發展強烈需求的共同驅動下，人工智能呈現出加速發展，深度學習、跨界融合、人機協同、群智開放、自主操控等新特征。隨著我國《新一代人工智能發展規劃》（2017）和《人工智能標準化白皮書》（2018）的印發和實施，中國國家層面的人工智能戰略走向了前臺，人工智能的迅速發展將會深刻改變人類社會的現有結構，成為新一輪產業變革的核心驅動力，因此，人工智能的安全問題也會愈發引起重視。

　　一、人工智能發展的國家戰略

　　人工智能是引領未來的戰略性技術，也是國家實力的重要組成部分。世界主要發達國家把發展人工智能作為提升國家競爭力、維護國家安全的重大戰略，加緊出臺規劃和政策，圍繞核心技術、頂尖人才、標準規范等強化部署，力圖在新一輪國際科技競爭中掌握主導權。

　　美國早已開啟了人工智能技術的國家發展戰略。奧巴馬政府時期，美國防部（DOD）下屬的高級情報研究計劃署（IARPA）于2015年發布為期五年的項目“大腦皮層網絡機器智能（MICrONS）計劃”，白宮科技政策辦公室（OSTP）下屬的國家科學技術委員會（NSTC）于2016年10月發布《國家人工智能研究發展戰略計劃》和《為了人工智能的未來做好準備》，其標志著作為世界上最有影響力最發達國家的美國,開始了面向人工智能時代的國家努力；特朗普政府時期，總統行政辦公室（EOP）于2016年12月發布的《人工智能，自動化和經濟》報告，哈佛大學于2017年7月發布的《人工智能與國家安全》，后者認為未來隨著技術的持續進步，AI將像核武器、飛機、計算機和生物技術一樣，日益成為可影響國家安全的變革性技術。

　　我國為搶抓人工智能發展的重大戰略機遇，構筑我國人工智能發展的先發優勢，加快建設創新型國家和世界科技強國，于2017年7月8日印發《新一代人工智能發展規劃》，該報告標志著我國人工智能發展進入到國家快車道。同年11月15日，國家科技部公布了4大人工智能平臺依托百度公司建設自動駕駛國家人工智能開放創新平臺，依托阿里云公司建設城市大腦國家人工智能開放創新平臺，依托騰訊公司建設醫療影像國家人工智能開放創新平臺，依托科大訊飛公司建設智能語音國家人工智能開放創新平臺。在2018年1月18日，我國召開國家人工智能標準化總體組、專家咨詢組成立大會，并發布了《人工智能標準化白皮書(2018版)》通過系統梳理、加快研制人工智能各領域的標準體系，明確標準之間的依存性與制約關系，建立統一完善的標準體系，以標準的手段促進我國人工智能技術、產業蓬勃發展。

　　二、人工智能技術對網絡空間的安全挑戰

　　人工智能技術作為一個新興技術手段，可以為經濟、軍事、文化等產業注入新的生命力，能夠將人從簡單性、重復性、危險性的勞動中解放出來。不過，盡管人工智能技術可以為國家的發展帶來新鮮的生命力，它也帶來了不少的挑戰，對國家的安全、經濟發展、社會穩定、信息保護等方面都有著直接或者間接的影響。綜合而言，人工智能技術對我國網絡空間的安全主要有以下四個方面的影響。

　　1. 網絡空間不穩定性增加

　　人工智能技術作為新興崛起的技術方向，自身理論和外部技術以及配套環境尚未完全成熟，因此其會從內部風險和外部風險兩個方面影響我國網絡空間的穩定性。

　　一方面，人工智能對網絡空間穩定性的內部風險是指由人工智能技術本身理論和應用基礎所帶來的風險，這部分風險很難預判。人工智能技術的理論基礎在于計算機、統計學、機器學習、數據挖掘、深度學習等等專業，這些學科很大部分建立在概率論和數理統計的基礎上。因此，人工智能并不是簡單的一對一的映照和因果關系，而是由機器主導的一種大概率性正確選擇和判斷。盡管從理論而言，人工智能運行中的風險事件的發生概率很低，但是現有技術無法預估其帶來的損失邊界和安全邊界，其何時發生、在哪個節點發生以及為何發生更是難以預測。所以，同傳統的計算機程序相比，人工智能程序的內在風險更高。在人工智能的發展歷史上，人工智能機器人傷害人的事件也已見諸報端。1989 年，一次國際象棋界的人機大戰中，前蘇聯國際象棋冠軍古德柯夫連勝三局，智能機器人棋手突然向金屬棋盤釋放出強電流，于眾目睽睽之下將古德柯夫擊斃。2017年，Facebook的兩個對話機器人更是在對話的過程中生成了人類看不懂的語言，官方為謹慎起見只能將其關停。伴隨著人工智能技術的大規模落地和深入使用，網絡空間中的許多節點和應用都將交給人工智能打理，在這樣的大背景下，如何降低和規避人工智能技術的技術風險，以及降低風險事件對網絡空間和現實社會的影響，需要我們深思。

　　另一方面，人工智能對網絡空間的外部風險是指來源于人的風險，尤其指技術人員對人工智能技術和系統的不規范使用和惡意攻擊。人工智能技術處于蓬勃的發展期，現在的研究熱點更多在于理論基礎和應用場景的擴展，對人工智能的安全控制的研究并不充分。所以，隨著人工智能技術的大規模應用，人為的不規范操作和惡意使用及攻擊將會逐漸增多，傳統網絡空間的一些守護措施譬如驗證碼驗證、身份驗證等也會面臨著巨大的威脅。

　　2. 數據和個人隱私泄露的風險擴大

　　人工智能的蓬勃發展建立在大數據、云計算等平臺上，只有依靠硬件平臺不斷地收集、整理用戶的特征數據和行為數據，人工智能的算法才能夠持續成長和應用。因此，敏感數據的泄露風險將會不斷增加。如果觸發人工智能自身的缺陷或者是被黑客攻擊，大量敏感的信息將會面臨泄露風險，輕則用戶個人信息被不法分子掌握，重則危害用戶財產安全甚至人身安全。同時，人工智能技術能夠便捷地在網絡空間收集和識別個人隱私，如文字、頭像等信息，并根據這些信息精確刻畫個人相關的性格、社會關系、收入和消費偏好等屬性，稍不留神，一個人的方方面面就會被人工智能技術全面嗅探到，并暴露在社會之中。所以，在人工智能技術發展和應用的同時，應該盡快從技術、政策、法律和標準等方面保證個人隱私的安全。

　　3. 網絡攻防戰場將愈加激烈

　　當今，工程界和學術界普遍認為人工智能同攻防的結合是網絡安全發展的必然趨勢，具有極大成長的空間。在傳統的網絡攻防中，網絡安全人員與黑客之間的攻防較量極大的依賴于人員的先驗經驗積累，在一定程度上屬于研發中的勞動密集型工作。人工智能技術的出現和發展可以在一定程度將勞動密集型的工作高度自動化，一方面，網絡攻擊方可以將網絡攻擊中的漏洞挖掘、注入、攻擊等的行為自動化，提高攻擊的效率。譬如，2017年的紹興市公安局的1·03專案，便是一起利用人工智能進行網絡攻擊和欺詐行為的事件。嫌疑人運用人工智能技術開發出了一套圖像識別系統，這種圖像識別技術可以自動辨認出圖片上顯示的數字、字母、漢字等信息，并且通過深度學習的方式，在實踐中不斷提升辨認能力。然而，這樣的技術卻被犯罪團伙運用到了網絡詐騙等活動中，給受害者帶來了不小的損失。另外一方面，一些安全廠商已經通過將人工智能技術和安全防御策略相結合，構造出了擁有自主學習能力的主動防御系統，該防御系統除了能夠應對傳統的網絡威脅，也可以預防潛在的各類后門攻擊，面對各類越來越復雜和智能化的滲透式網絡入侵也有一戰之力?？梢灶A見到，伴隨著人工技能技術在網絡攻防領域的深入應用，網絡空間中的攻防戰場將會愈加的激烈。

責任編輯：韓希宇