南方財經全媒體記者 馮戀閣 21世紀經濟報道記者 王俊 鄭雪 廣州、北京報道

編者按：自1956年“人工智能”的概念首次被提出已過60余年，此間，人工智能從虛化的代碼逐漸轉化成實踐應用，催生出一批批商業故事。不過，人工智能規?；逃貌⒎翘雇?，概念的火熱一直以來未能助推技術突破與商業應用。

時間來到2022年，生成式AI發展為人工智能發展再注入一針強心劑。ChatGPT橫空出世，被視為通用人工智能的起點和強人工智能的拐點，引發新一輪人工智能革命。人工智能發展似乎找到了自己的主流敘事。

不過，技術創新的同時也帶來了監管難題。如何平衡發展與安全，中國正在摸索自己的AI治理路徑。南財合規科技研究院與觀韜中茂律師事務所推出《中國AI治理的獨立思考——生成式人工智能發展與監管白皮書》，通過分析生成式AI的發展現狀、政策導向、實操中面臨的風險，以及各國的監管路徑，以期為未來的AI治理提供有益思路。

2017年，人工智能第一次被寫入政府工作報告。報告指出，要加快人工智能等技術的研發和轉化，培育壯大新興產業。6年間，這一產業發展突飛猛進。今年2月，工信部相關數據顯示，我國人工智能核心產業規模達到5000億，企業數量接近4000家。 

不過，技術快速發展為秩序帶來新的挑戰，生成式AI橫空出世后，數據泄露、個人隱私風險、著作權侵權、虛假信息等諸多問題亟待監管治理。 

人工智能掀起的第四次工業革命浪潮下，如何平衡產業的安全與發展，儼然已經成為了全球性難題。當前，各國政府和監管機構已開始采取措施加強監管，以確保公眾利益和安全。 

面對生成式AI的“世界之問”，中國給出了怎樣的解決方案？

從現有規則來看，我國的治理路徑與歐盟和美國不同，在倫理規則和法律法規方面皆有布局，而具體到生成式AI治理，我國強調安全與發展的“雙輪驅動”。在這一背景下，未來，生成式AI應用應注意完善的風險治理框架，在保障安全的基礎上發展。

治理脈絡：倫理與法律并行

中國的人工智能治理之路始于2017年。當年7月，國務院發布《新一代人工智能發展規劃》，提出人工智能三步走的戰略目標，并設置了2020年、2025年及2030年三個時間節點，目標覆蓋人工智能技術理論、產業發展、治理體系等領域。        

2019年，國家新一代人工智能治理專業委員會在6月、9月先后發布《新一代人工智能治理原則》、《新一代人工智能倫理規范》，前者強調了“發展負責任的人工智能”這一主題，并提出發展相關方需要遵循的八項原則；后者則提出要將“倫理道德”這部“軟法”融入至人工智能研發和應用的全生命周期。2020年，全國人大常委會則在立法工作計劃首次提及要重視人工智能法律問題。          

步入數字經濟發展“快車道”，算法歧視、“大數據殺熟”等算法不合理應用問題日漸突出。2021年12月31日，國家互聯網信息辦公室聯合公安部等四部門聯合發布了《互聯網信息服務算法推薦管理規定》（以下簡稱“《算法推薦管理規定》”），主要用于規范算法推薦服務提供者在使用包括生成合成類等算法推薦技術提供服務。

2022年，我國各地開始考慮人工智能產業發展問題。在9月，深圳、上海相繼發布《深圳經濟特區人工智能產業促進條例》和《上海市促進人工智能產業發展條例》，對地方人工智能產業發展和治理提出要求，值得注意的是，兩地在治理環節都提到要建立人工智能倫理（專家）委員會、采用風險分類分級機制對人工智能進行管理。 

同年11月，為應對元宇宙等概念興起，AI換臉等深度偽造技術引發的社會事件，監管部門對于深度合成技術應用做出回應，發布《互聯網信息服務深度合成管理規定》（以下簡稱“《深度合成規定》”），對深度合成技術提出一系列要求，其中，將深度合成技術定義為“利用生成合成類算法制作文本、圖像、音頻等的技術”。          

時間來到2023年，ChatGPT的面世和大模型領域的密集動態無疑給人工智能的烈火再添一把新柴。我國在治理上亦有相應動作。4月，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱“征求意見稿”），對生成式AI產品或服務提高者的責任、數據安全等與生成式AI技術密切相關的問題做出回應；5月，國務院發布的2023年度立法工作計劃中，人工智能法草案赫然在列。 

核心思路：發展治理“雙輪驅動”

生成式AI影響力逐步擴大，今年以來，各國都在積極探索治理路徑。 

今年6月，歐洲議會以 499 票贊成、28 票反對和 93 票棄權通過了關于歐盟人工智能法案的談判立場，歐盟基于風險的生成式AI治理思路逐步確立。美國也在今年以來發布《人工智能風險管理框架》、《國家人工智能研發戰略規劃》以期更好地發展人工智能，提升未來戰略競爭力的一個關鍵領域。 

不同于美國和歐盟采取的治理方式，中國對生成式AI應用的規制思路主要采用目標與問題導向相結合的風險治理框架，既采取措施支持和鼓勵生成式AI應用的發展，又針對生成式AI應用場景下可能引發的風險進行規制。

其實，我國針對生成式AI應用的治理經歷了一個從“問題導向”向“目標與問題導向相結合”的治理模式的轉變。 

前文提到，由于算法歧視、“大數據殺熟”等算法不合理應用問題日漸突出，元宇宙、AI換臉等新概念、新技術影響擴大，網信辦于2021年、2022年先后發布《算法推薦管理規定》和《深度合成管理規定》。

《算法推薦管理規定》與《深度合成管理規定》的治理框架主要以問題為導向，關注包括生成合成類算法服務、深度合成服務在內的生成式AI技術在應用過程中的風險問題，通過制定相關規則和采取措施限制相關方在生成式AI技術應用過程中的風險。

2023年隨著生成式AI發展，為規制應用可能誘發的相關風險，7月13日，網信辦等六部門聯合正式發布了《生成式人工智能服務管理暫行辦法》（以下簡稱“《辦法》”），該辦法于2023年8月15日正式生效。 

與此前的征求意見稿相比，《辦法》有較大的思路調整，堅持目標導向和問題導向，單設了“技術發展與治理”章節，同時也新增了不少有力措施來鼓勵生成式AI技術發展。比如推動生成式AI基礎設施和公共訓練數據資源平臺建設，促進基礎技術的自主創新。并明確了訓練數據處理活動和數據標注等要求。 

在發展方面，《生成式AI發展與監管白皮書①：新一輪人工智能革命下 中國如何講述發展故事》中提到，《辦法》中提出了多項促進產業發展的舉措，而各地此前也有規則發布。

在治理方面，《辦法》對生成式人工智能服務提供者提出了多項要求：應當依法開展預訓練、優化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。此外，明確了數據標注的相關要求。

不難看出，我國監管部門對于生成式AI應用風險的治理框架采用目標與問題導向相結合的風險治理框架，換言之，就是堅持發展與治理“雙輪驅動”的前進方向?！掇k法》期望在促進生成式AI健康發展的同時，又能夠確保生成式AI的規范應用。

技術應當是中立的。通過規制能夠更好地促進其良性發展，為其保駕護航。 我國的風險治理框架既不同于美國基本沒有限制的風險監管模式，也不同于歐盟多重限制的風險監管模式，其介于二者之間，對于實現風險監管與鼓勵科技創新的平衡更具優勢。

行至何方：建構特色風險治理框架 

從我國的治理思路不難看出，針對生成式AI的治理，其根本目的在于保證商業化應用的安全，促進行業健康發展。

近期，創業者服務平臺GoDaddy對全美1003家小型企業的調查數據顯示，ChatGPT以70%的應用率成為美國小型企業應用最多的生成式AI產品；38%的受訪者，在過去幾個月里嘗試過生成式AI；營銷、內容創作、商業建議是企業應用生成式AI最多的3個用例；75%受訪者非常滿意生成式AI在業務中的表現。 

對比之下，國內大模型遠沒有達到可商用化的程度，或是未能深度切入具體應用場景。目前大模型落地主要以價值增強和效率提升為主，而商業模式層面的落地仍在探索中。 

未來，生成式AI商業化應用將需要更高質量的訓練數據，面向更多用戶和利益相關方，投入更復雜的場景應用。這些因素都會放大生成式AI產品在商業化中各種風險，企業在生成式AI的商業化之路面臨更多挑戰。 

完善的風險治理框架無論從監管者視角還是投資者視角都是關注的重點。OpenAI等知名人工智能企業企業受到監管關注不難發現，一家可持續發展的AI企業必須具備良好的風險治理水平、高效的風險管理能力以及持續的合規風險治理更新和改善能力。要有效利用生成式AI技術，企業首先要解決好風險治理框架的問題。          

在本白皮書第三部介紹了美國的AI風險管理框架的實踐以及歐盟人工智能法案提出的一些關于AI風險治理可供參考的建議，但是生成式AI商業化應用的開發者仍需要根據自身情況設計一套適合自身的生成式AI商業化應用風險治理框架。          

風險控制是治理框架的核心目標導向。技術、商業模式、政策環境等不斷變化，風險可能會成為當下最好的治理抓手。白皮書團隊認為，為此可以考慮通過如下四個模塊來構建、形成開發者針對生成式AI商業應用風險的治理框架。

其一是風險識別模塊。生成式AI應用的風險識別是風險治理的起點，正確識別風險來自何方（如知識產權、算法、數據安全以及個人信息等）是解決問題的第一步。其二是風險度量模塊。典型的風險衡量方法需要開發者將測量或估計的影響和影響可能性相乘或定性組合為風險評分（風險≈影響 x 可能性）。對風險不切實際的期望可能會導致企業不當分配資源，造成風險分類效率低下或不切實際，或者浪費稀缺資源。其三則是應對策略，開發者可以針對已識別的生成式AI商業化應用相關治理模塊，包括協議安排、內部政策、技術性限制、數據治理、動態測試及評估、透明度實踐等。最后則是控制措施依據風險應對策略，確定的具體風險控制節點，需要開發者內部具體落實的措施。          

此外，白皮書團隊還建議可以建構生成式AI應用風險事件庫。AI風險事件數據庫通過整理和分析生成式AI商業化應用的開發和部署在現實商業領域中造成的或可能造成不良后果或者損害的情況，形成相應數據庫。與航空和計算機安全領域的類似數據庫一樣，生成式AI應用風險事件數據庫旨在從經驗中學習，以便相關開發者能夠預防或減輕不良后果。

白皮書出品團隊：南財合規科技研究院X觀韜中茂律師事務所

白皮書撰寫者：王俊 馮戀閣 鄭雪 王渝偉 楊欣如 周丹 錢雨晴 溫泳珊 林婉娜 羅洛

（陸釔潼 王敏 朱敏婕 對白皮書撰寫亦有貢獻）

責任編輯：王超