近年來，人工智能獲得了各界的高度關注和快速發展，其在智力游戲、自動駕駛、語音和圖像識別、翻譯等諸多領域取得重大突破，谷歌、臉書、微軟等科技公司收購人工智能創業公司的速度已經快趕上這些公司的創立速度。各國政府（比如美國、英國等）以及一些社會公共機構（比如UN、IEEE等）也開始積極關注人工智能的法律、倫理、社會、經濟等影響，密集出臺戰略文件和報告。借鑒發達國家和國際社會已有經驗和案例，對中國企業提前預判后續可能面臨的前瞻性法律政策問題有所裨益。

　　01 人工智能應用中面臨的法律政策問題

    1、圖像識別領域

　　圖像識別領域面臨的用戶隱私保護和種族歧視等問題突出。

　　一方面，圖像識別軟件的不包容和歧視的問題已經出現，比如，谷歌公司的圖片軟件曾錯將黑人的照片標記為“大猩猩”，Flickr的自動標記系統亦曾錯將黑人的照片標記為“猿猴”或者“動物”。

　　另一方面，社交媒體的圖片標簽或者自動標記功能可能引發關于用戶隱私的爭議，比如，Facebook的圖片標記功能利用人臉識別技術就圖片中的人像向用戶進行“標簽推薦”，這被認為是在未獲用戶明確同意的情況下收集用戶的“臉紋”等生物識別信息，違反了美國伊利諾伊州的《生物識別信息隱私法》，而被用戶提起隱私侵權訴訟，谷歌等企業的類似技術也引發了類似訴訟。因此，在歐盟、加拿大等地區，Facebook不得不暫停這項技術。

　　2、語音識別領域

　　語音識別領域也已經出現性別和種族歧視、倫理以及聲音權保護等問題?；谧匀徽Z言處理的語音識別正在快速發展，如亞馬遜的Alexa、蘋果的Siri、微軟的Cortana等。但這一領域卻被詬病為已經產生了嚴重的性別歧視問題。

　　比如，2016年3月23日，微軟公司的人工智能聊天機器人Tay上線。出乎意料的是，Tay一開始和網民聊天，就被“教壞”了，成為了一個集反猶太人、性別歧視、種族歧視等于一身的“不良少女”。于是，上線不到一天，Tay就被微軟公司緊急下線了。類似的倫理問題已經引起諸多關注，批判硅谷正在將人類社會既有的種族歧視、性別歧視等問題帶入機器學習的聲音逐漸增多。

　　同時，在模擬人聲方面，也出現聲音是否受法律保護以及怎樣保護的問題。比如，已經出現使用名人聲音進行人工智能語音訓練從而實現智能模仿他人聲音效果的業務形態。

　　在國內，對于這種所謂的“聲音權”并無明文規定，相關學者認為可以通過設立肖像聲音權、聲音語言權、形象權、獨立聲音權等方面進行保護，但尚未達成一致。在國外，對聲音進行明確法律保護的國家或地區也較少，比如，澳門、捷克斯洛伐克和美國加利福尼亞州等為數不多的國家或地區，美國也有將其作為商品化權進行保護的觀點，相關的立法、司法動態后續還需要繼續保持關注。

　　3、廣告投放領域

　　廣告投放領域面臨的問題主要集中在用戶數據的收集和使用、算法歧視等方面。算法歧視早已引起人們關注，在互聯網廣告領域同樣存在這一問題。

　　比如，研究表明，在谷歌搜索中，相比搜索白人的名字，搜索黑人的名字更容易出現暗示具有犯罪歷史的廣告。再比如，在谷歌的廣告服務中，男性比女性看到更多高薪招聘廣告，當然，這可能和在線廣告市場中固有的歧視問題有關，廣告主可能更希望將特定廣告投放給特定人群。

　　此外，基于用戶自動畫像和自動化決策的的精準廣告投放正日益流行（自動化決策在信貸、保險等領域的應用也在加強），其中涉及用戶數據的收集使用、對用戶保持透明以及歧視等問題。

　　02 各國對人工智能法律政策問題的探索

　?。ㄒ唬┰谥R產權方面

　　人工智能中新產生作品的權利歸屬問題較為突出。歐盟法律事務委員會建議歐盟委員會就與軟硬件標準、代碼有關的知識產權提出一個更平衡的路徑，以便在保護創新的同時，也促進創新。同時，對于計算機或者機器人創作的可版權作品，需要提出界定人工智能的“獨立智力創造”的標準，以便可以明確版權歸屬。

　　此外，國際標準化組織IEEE在其標準文件草案《合倫理設計：利用人工智能和自主系統（AI/AS）最大化人類福祉的愿景》中也提出，應對知識產權領域的法規進行審查，以便明確是否需對AI參與創作的作品的保護作出修訂，其中基本原則應為，如果AI依靠人類的交互而實現新內容或者發明創造，那么使用AI的人應作為作者或發明者，受到與未借助AI進行的創作和發明相同的知識產權保護。

　?。ǘ┰陔[私和數據保護方面

　　在人工智能領域，歐盟認為除了應該按照必要性原則和比例原則等保護隱私和數據之外，還應該有更多的標準、規范。

　　歐盟法律事務委員會建議，在針對人工智能和機器人制定政策時，應當進一步完善通過設計保護隱私（privacy by design）、默認保護隱私（privacy by default）、知情同意、加密等概念的標準。當個人數據成為“流通物”使用時，在任何情況下都不得規避涉及隱私和數據保護的基本原則。

　　其實，在2016年通過的《一般數據保護條例》（簡稱GDPR）中，歐盟就加強了個人隱私和數據保護，其中關于用戶畫像等自動化決策的規定將對基于大數據的互聯網行業實踐產生重大影響，即用戶有權拒絕企業對其進行畫像等自動化決策，而且用于用戶畫像的數據不能包括人種或者種族起源、政治意見、宗教或者哲學信仰、商會會員、基因、生物特征、健康狀況、性生活等特殊類別的個人數據。這將對個性化服務的提供產生重大影響。

　?。ㄈ┰跇藴驶ㄔO方面

　　國際社會將推進標準化工作作為人工智能發展的重要抓手。

　　歐盟法律事務委員會建議歐盟委員會應繼續致力于技術標準的國際統一，歐盟層面，需要建立相應的標準化框架，以免造成歐盟各成員國之間標準的不統一以及歐盟內部市場的分裂。

　　此外，IEEE于去年年底出臺的指南文件中也呼吁各方形成一系列標準，用于指導人工智能研發和應用。

　　美國在去年出臺的涉及人工智能、自動駕駛等的多份報告和政策如《聯邦自動駕駛汽車政策》《美國國家人工智能研發戰略計劃》《為人工智能的未來做好準備》等中，也要求加強并統一技術、數據使用、安全等標準建設，避免造成碎片化的問題，影響人工智能研發和應用。

　?。ㄋ模┢渌烧叻矫?/P>

　　1、算法決策公開透明化

　　實現算法決策的透明性和公平性是國際社會的一個主流關注點?；跈C器學習的自主或者自動化的決策系統日益被廣泛應用在推薦引擎、精準廣告、信貸、保險等諸多領域，甚至政府部門也利用自動化決策來處理給犯罪人定罪量刑等公共事務，然而算法模型的設計都是編程人員的主觀選擇和判斷，所使用的數據也可能是不相關和不準確的，這就可能導致自動化決策的結果影響個人權益，或者對某些群體造成歧視。

　　確保算法及其決策可以有效接受中立第三方或者監管機構的審查，實現算法決策的透明性和公平性，是國際社會的一個主流關注點。IEEE提出，應當為個人提供異議和救濟的渠道。歐盟的GDPR則賦予個人反對自動化決策的權利，意味著算法決策需要透明化。

　　2、防止歧視和偏見

　　國際社會日益重視在人工智能領域對數據的收集和分析進行規范，以防止歧視或偏見。

　　美國聯邦貿易委員會（FTC）在2016年1月發布的《大數據：包容性工具抑或排斥性工具？》（Big Data:a Tool for Inclusion or Exclusion?）特別關注大數據中的歧視和偏見問題，對于消費者，一方面需要確保公平機會法律得到有效執行，另一方面防止大數據分析中采取歧視等不公平行為；對于企業，FTC建議企業考察以下問題：數據集是否具有代表性，所使用的數據模型是否會導致偏見，基于大數據進行預測的準確性如何，對大數據的依賴是否會導致道德或者公平性問題。

　　其實，早在2014年5月，美國白宮就發布了《大數據：抓住機遇，保存價值》中呼吁重視自動化決策中的歧視問題，要求民權和消費者保護機構及FTC等政府機構加強專業知識，調查并解決潛在的歧視問題。

　　03 對人工智能進行法律政策保護的思考

　?。ㄒ唬┲R產權保護方面

　　國內企業應該利用既有專利規則、版權規則、職務發明等知識產權規則，強化對AI的全方位知識產權保護。

　　版權保護方面：國際標準化組織IEEE在其標準文件草案中提出的版權保護基本原則目前也為國內現行法律認可，即如果AI依靠人類的交互而實現新內容或者發明創造，那么使用AI的人應作為作者或發明者，受到與未借助AI進行的創作和發明相同的知識產權保護。因此，相關AI的原代碼產生后，應及時通過軟件著作權登記等措施進行證據固化。

　　專利技術和商業秘密保護方面：AI開發過程中涉及到的專利技術，應當經過專業技術人員評估，如果可保密性強，被反向工程的可能性不大，則通過商業秘密進行保密而保護，如果被反向工程或者披露的可能性較大，則應當及時進行專利申請，以公開換取獨占性保護。

　　商標保護方面：重點AI產品應及時進行產品名稱和標志的商標申請和保護，使產品能夠在市場上獲得認知，擴大產品品牌影響力。

　?。ǘ╇[私和數據安全方面

　　在提供服務的過程中收集、使用用戶個人信息，應當遵循合法、正當、必要的原則。不得收集與提供服務所必需以外的用戶個人信息或者將信息用于提供服務之外的目的，不得以欺騙、誤導或者強迫等方式收集、使用用戶個人信息。比如，在圖像識別、語音識別等領域，對于機器深度學習的原始素材、語料等的收集、分析、使用，需要事先經過用戶的知情同意。

　　同時，積極履行信息安全保障義務。在對用戶數據收集、使用過程中的用戶個人信息應當嚴格保密，不得泄露、篡改或者毀損，不得出售或者非法向他人提供。對用戶數據的輸出和使用，應當做到匿名華、假名化，并做到脫密處理。

　?。ㄈ藴驶ㄔO方面

　　技術專利化、專利標準化、標準國際化。統一技術、數據使用、安全等標準化建設將會是未來人工智能技術標準化建設的主要趨勢。因此，積極參與標準化討論和提案，在“技術專利化，專利標準化，標準國際化”方面做足功夫，努力將企業的技術專利加入標準中，并成為行業國際通用標準。

　?。ㄋ模┓榔缫暦矫?/P>

　　如前所述，目前人工智能，在發展過程中可能由于技術不完善、算法不健全或算法不公開、不透明等原因，已經面臨種族歧視、性別歧視等問題，并由此產生了很多負面后果。因此，對于中國企業來說，也應該提前思考，如何通過技術提高算法完善和算法公開化、透明化等措施，來避免類似問題的發生。

　　04 結語

　　人工智能時代的未來已來，關于人工智能的法律政策問題的討論、探索也才剛剛開始，未來關于人工智能的法律政策也必將超越現有的法律政策體系、規則，國內企業對此也應時刻關注，并根據立法、司法等趨勢做出及時回應。

　　付一強  騰訊公司高級法律顧問

　　曹建峰  騰訊研究院研究員

責任編輯：Rachel