12月26日，中國信通院在“2024中國信通院ICT深度觀察報告會”科技倫理治理分論壇上發布了《人工智能倫理治理研究報告（2023年）》（簡稱：《報告》）?！秷蟾妗繁硎?，目前，人工智能引發的倫理挑戰已從理論研討變為現實風險，人工智能倫理治理是應對人工智能風險的有效機制。要協調人工智能產業創新發展與倫理治理，重視人工智能技術創新，加強人工智能治理產品開發，探索建立敏捷的人工智能倫理治理機制，推動產業創新與倫理風險防范相協調。
中國信通院科技倫理研究中心相關專家表示，伴隨人工智能的迅速發展和廣泛應用，人類正在進入一個“人機物”相融合的萬物智能互聯時代。人工智能技術應用在帶來機遇的同時，也引發了系列倫理挑戰。
《報告》稱，在技術研發階段，由于人工智能技術開發主體在數據獲取和使用、算法設計、模型調優等方面還存在技術能力和管理方式的不足，可能產生偏見歧視、隱私泄露、錯誤信息、不可解釋等倫理風險。在產品研發與應用階段，人工智能產品所面向的具體領域、人工智能系統的部署應用范圍等將影響人工智能倫理風險程度，并可能產生誤用濫用、過度依賴、沖擊教育與就業等倫理風險。對于人工智能生成內容、自動駕駛、智慧醫療等典型應用場景，需要根據風險發生頻率、影響范圍、影響程度等評估主要風險。
針對人工智能生成內容，《報告》認為，生成式人工智能應用成為2023年人工智能應用熱點，但使用大模型生成內容具有三大突出風險。一是誤用濫用風險，例如生成假視頻、圖片、聲音以實施詐騙；二是數據泄露與隱私侵犯風險，例如ChatGPT今年發生若干起泄露用戶信息的事件；三是對知識產權制度帶來挑戰，對生成式人工智能是否合理使用存在爭議。
《報告》建議，在治理理念方面，堅持促進創新與防范風險相統一，統籌發展與安全。在治理舉措方面，健全多學科多主體合作、探索分類分級治理、推動治理技術工具開發。在能力建設方面，重視科研人員、開發人員、社會公眾等各主體科技倫理素養提升。在開放合作方面，積極參與全球人工智能倫理治理合作，推動人工智能技術造福人類。
從人工智能產業健康發展的角度來看，《報告》認為，人工智能倫理治理需要關注產業科技創新活動與倫理風險防范協調發展，通過倫理治理對人工智能可能存在的風險進行全生命周期的指導，促進人工智能朝著有利于人類發展、尊重和保障各群體權益的方向發展。
《報告》建議，一是重視人工智能技術創新。堅持促進創新與防范風險相統一，鼓勵人工智能基礎技術創新和突破，發展人工智能芯片、數據、算法等基礎核心技術，加強人工智能治理產品開發，以人工智能技術防范人工智能風險。二是探索建立敏捷的人工智能倫理治理機制。建設快速響應、創新主體與相關政府部門有效溝通的治理合作，增強科技倫理治理的有效性和科學性，推動產業創新與倫理風險防范相協調。
責任編輯：韓希宇
免責聲明：
中國電子銀行網發布的專欄、投稿以及征文相關文章，其文字、圖片、視頻均來源于作者投稿或轉載自相關作品方；如涉及未經許可使用作品的問題，請您優先聯系我們（聯系郵箱：cebnet@cfca.com.cn，電話：400-880-9888），我們會第一時間核實，謝謝配合。
