中國社會科學院國情調研重大項目

《我國人工智能倫理審查和監管制度建設狀況調研》課題組

第一章 總則

第一條（立法依據）

第二條（適用范圍）

第三條（治理原則）國家統籌發展和安全，堅持促進創新和依法治理相結合，實施包容審慎監管。

第四條（以人為本原則）從事人工智能研發、提供和使用活動應當以人為本、智能向善，確保人類能夠始終監督和控制人工智能，始終以促進人類福祉為最終目標。

第五條（安全原則）

第六條（公開透明可解釋原則）從事人工智能研發、提供和使用活動應當遵循公開、透明、可解釋原則，采取必要措施對所研發和使用的人工智能的目的、原理和效果予以說明。

第七條（可問責原則）

第八條（公平平等原則）

第九條（綠色原則）

第十條（促進發展創新原則）國家支持人工智能基礎設施建設，推動公共算力、公共數據和其他相關公共資源開放共享，鼓勵個人、組織依法開放共享算力、數據和其他相關資源。

國家鼓勵人工智能研發和應用，依法保護人工智能領域知識產權，創新探索適應人工智能發展的知識產權制度。

第十一條（國際合作）

第十二條（履職部門）國家人工智能辦公室是人工智能發展和管理的主管機關。其他有關政府部門和軍隊有關部門按照職責分工，密切配合，加強協調，依法做好有關工作。

省、自治區、直轄市，省、自治區的人民政府所在地的市，經濟特區所在地的市和國務院已經批準的較大的市人工智能主管機關和其他相關部門，按照國家有關規定，在本轄區范圍內負責人工智能發展和管理工作。

第十三條（協同共治）

第十四條（合法正當）

第二章 人工智能支持與促進

第十五條（人工智能發展規劃）

第十六條（算力基礎設施建設）

第十七條（算法和基礎模型創新）

第十八條（數據要素供給）國家支持建設人工智能領域基礎數據庫和專題數據庫，促進數據資源高效匯聚和共享利用，擴大面向人工智能應用的公共數據供給范圍。

鼓勵引導相關主體開展大數據與人工智能技術協同研發，支持相關主體將數據與行業知識深度融合，開發數據產品，服務算法設計、模型訓練、產品驗證、場景應用等需求。

第十九條（產業發展與應用創新）

第二十條（專業人才培養）

第二十一條（財政資金支持）

第二十二條（國家機關先行先試）鼓勵政府機關、事業單位、國有企業及其他依法具有管理公共事務職能的組織，在政務服務、公共管理等領域開展人工智能技術應用先行先試，優先采購和使用安全可靠的人工智能產品和服務。

第三章 人工智能管理制度

第二十三條（分類管理制度）國家建立人工智能負面清單制度，對負面清單內的產品、服務實施許可管理，對負面清單外的產品、服務實施備案管理。

國家人工智能主管機關根據人工智能在經濟社會發展中的重要程度，以及一旦遭到攻擊、篡改、破壞或者非法獲取、非法利用，對國家安全、公共利益或者個人組織合法權益、經濟秩序造成的危害程度，牽頭制定并定期更新人工智能產品、服務負面清單。

第二十四條（負面清單管理制度）開展人工智能負面清單內產品、服務的研發、提供活動前，應當取得國家人工智能主管機關的行政許可。

禁止未經許可或超越許可范圍開展負面清單內人工智能研發、提供活動。

第二十五條（負面清單許可條件）申請負面清單內人工智能研發、提供許可，應當具備下列條件：

（一）在中華人民共和國境內依法設立的法人；

（二）主要負責人是中國公民；

（三）有與風險相適應的具備質量保障、安全保障、人類監督、合規管理等專業知識的專職人員；

（四）有健全的人工智能質量管理體系、網絡數據安全管理制度、科技倫理審查制度；

（五）有安全可控的人工智能技術保障措施；

（六）有與風險相適應的人工智能應急處置機制；

（七）有與人工智能研發、提供相適應的場所、設施和資金；

（八）法律、行政法規的其他規定。

略

第四章 人工智能研發者、提供者義務

第一節 一般規定

第三十三條（安全性義務）人工智能研發者、提供者應當在將人工智能投入使用或投放市場前進行安全測試，防范網絡數據人工智能安全風險，并保障人工智能全生命周期的安全、穩健運行，符合預期目的。

人工智能研發者和提供者應當及時發布安全最佳實踐，引導使用者安全、正確地使用人工智能。

人工智能研發者、提供者按照本法規定的記錄、技術文件等要求，保證可追溯性，在發生事故時可以及時并準確地追溯、定位問題，保障人工智能的安全性。

鼓勵相關組織和個人向人工智能研發者、提供者通報其產品、服務存在的安全漏洞。

人工智能研發者、提供者應當按照相關規定履行安全漏洞管理義務，確保其安全漏洞得到及時修補和合理發布，并指導支持使用者采取防范措施。

第三十四條（補救和通知義務）

第三十五條（公開透明性義務）

第三十六條（可解釋性義務）

第三十七條（公平性義務）

第三十八條（風險管理）

第三十九條（安全評估）

第四十條（科技倫理審查）

第四十一條（授權代表）

第二節 人工智能研發者義務

第四十二條（負面清單內人工智能研發者增強義務）負面清單內人工智能研發者應當履行以下義務：

（一）制定并保存符合本法要求的技術文件，并配合提供者履行相關義務；

（二）在研發過程，制定并運行符合本法要求的質量管理體系，并配合提供者履行相關義務；

（三）在研發過程，進行安全評估，配合提供者履行相關義務；

（四）法律、行政法規規定的其他義務。

第四十三條（基礎模型研發者特殊義務）基礎模型研發者應遵守以下規定：

（一）按照國家規定建立健全安全風險管理制度，及時有效預防、監測、處置對國家安全、公共利益或者個人、組織合法權益、經濟秩序造成的風險；

（二）按照國家規定建立健全基礎模型的模型管理和數據管理制度；

（三）遵循公開、公平、公正的原則，制定基礎模型的使用規則，明確使用基礎模型的研發者、提供者應當履行的義務，不得濫用市場支配地位；

（四）協助其他研發者、提供者履行相關義務；

（五）對嚴重違反本法規定的研發者、提供者，應當采取停止提供服務等必要措施；

（六）成立主要由外部成員組成的獨立機構對基礎模型的研發情況進行監督；每年發布社會責任報告，接受社會監督。

第三節 人工智能提供者義務

第四十四條（備案義務）

第四十五條（備案流程）

第四十六條（審計義務）

第四十七條（內部管理制度）人工智能提供者應當采取下列措施確保人工智能符合法律、行政法規的規定：

（一）制定內部數據安全、風險控制、質量管理等制度和相應的操作規程；

（二）保存提供人工智能產品、服務自動生成的日志；

（三）定期對從業人員進行教育和培訓；

（四）采取相應的魯棒性、抗攻擊性等合規技術措施；

（五）法律、行政法規規定的其他措施。

第四十八條（終止機制）

第四十九條（許可注銷）

第五十條（負面清單人工智能提供者增強義務）負面清單內人工智能提供者，還應當履行如下義務：

（一）按照本法要求進行安全評估，確保安全、穩??；

（二）制定并保存符合本法要求的技術文件，以證明所提供的人工智能符合本法對負面清單內人工智能的要求；

（三）建立并運行符合本法要求的全生命周期質量管理體系；

（四）在人工智能產品、服務自主運行過程中，確保人類可以隨時采取介入、接管等措施；

（五）法律、行政法規規定的其他義務。

第五章 人工智能綜合治理機制

第五十一條（國家人工智能主管機關職責）國家人工智能主管機關依法履行以下人工智能監管職責：

（一）開展人工智能倫理、安全教育與宣傳，指導、監督人工智能開發、提供和使用；

（二）制定人工智能監管規則、指引，組織制定人工智能倫理、安全、管理等方面標準；

（三）組織人工智能技術監測、評估、審計工作，指導專業機構依法開展活動；

（四）建立人工智能風險監測預警機制，組織人工智能領域風險信息的獲取、分析、研判、預警工作；

（五）建立人工智能安全事件應急處置機制；

（六）接受、處理與人工智能技術及產品開發、提供和使用有關的投訴、舉報；

（七）調查、處理違法人工智能開發、提供和使用活動；

（八）法律、行政法規規定的其他職責。

第五十二條（安全審查制度）

第五十三條（前置程序期限）人工智能研發者、提供者、使用者依照本法及國家有關規定，就人工智能新技術新應用申報安全審查、備案或申請行政許可的，國家人工智能主管機關應當明確工作期限，并在期限內及時處理、作出答復。

第五十四條（約談）

第五十五條（創新監管）國家人工智能主管機關就人工智能產業研發、提供和使用活動中的輕微違法行為等制定依法不予行政處罰清單，通過批評教育、指導約談、組織會商研討等措施促進公民、法人和其他組織依法合規開展人工智能產業研發、提供和使用活動。

第五十六條（監管沙盒）國家人工智能主管機關建立人工智能監管試驗機制，就以下事項出臺具體規定、指引：

（一）參與監管試驗的條件；

（二）監管試驗的運行機制；

（三）人工智能研發者、提供者的義務、責任減免機制。

第五十七條（執法機制）

第五十八條（技術治理）

第五十九條（境外反制）

第六十條（對等措施）

第六章 法律責任

略

第七章 附則

第七十二條（施行日期）本法自 年 月 日起施行。

第七十三條（負面清單公開制度）國家人工智能主管機關應當不晚于本法實施之日前六個月公開人工智能負面清單，并在定期更新后及時公開。

責任編輯：王超