“要清醒看到，人工智能的算法‘黑箱’、數據污染、模型缺陷等潛在風險問題不容忽視?！敝袊敻还芾?0人論壇理事長、原銀監會主席、證監會原主席尚福林在4月10日舉行的國民財富發展研究合作平臺2025春季峰會上表示。

尚福林特別提到，在金融行業應用時，應關注人工智能帶來的效率提升與風險加劇的雙重效應。

尚福林提到兩點措施：一方面，在技術上強化垂直領域的專業性，在技術基座基礎上針對金融行業特點進行精細訓練，對生成內容及時進行交叉驗證，提升模型的準確性和可靠性。另一方面，監管機構應密切關注人工智能技術在金融領域的應用動態，增強對智能算法風險的穿透式分析能力，健全智能算法的規則制度，提升算法可解釋性、透明性、公平性和安全性。

人工智能對依托密集的物理網點和客戶經理的中小銀行沖擊最大

回顧金融業發展歷程，經歷了信息化、數字化、智能化全過程，金融業始終走在技術變革前沿。如今越來越多的金融機構正在探索應用人工智能，加快數字化轉型。

相關部門也出臺了一系列政策和規劃，推動技術的應用與創新?！督鹑诳萍及l展規劃（2022-2025年）》提出，抓住全球人工智能發展的新機遇，全面推進智能技術在金融領域的深化應用。人民銀行不久前召開2025年科技工作會議特別提到，加快金融數字化智能化轉型，安全穩妥有序推進人工智能大模型等在金融領域應用。

尚福林指出，各方對于人工智能在金融業推進充滿了期待。以生成式人工智能為例，它的對話、創作、推理三大核心能力，非常契合金融行業需求?？梢灶A見，人工智能將對金融業產生深遠影響。

一是增強交互體驗。大語言模型利用自然語言處理技術，實時回答客戶問題，提供個性化的服務建議，極大地提高了客戶服務效率，減少了人工客服的工作量和成本。

二是全面分析“畫像”。在信貸業務中，人工智能通過挖掘分析消費習慣、交易行為等非結構化數據，分析借款人的各種特征、評估還款意愿，通過動態風險評估替代靜態抵押，實現風險評估從“靜態指標”向“動態畫像”的轉變；推動風險定價從“經驗主導”向“數據+算法”驅動轉變。此外，邏輯推理模型通過交易行為數據中的異常邏輯鏈檢測等策略，加上生物信息識別技術，在反洗錢、反金融欺詐等方面發揮了較好效果。

在金融市場上，通過機器學習算法，更高效地進行市場分析和投資決策。國際貨幣基金組織（IMF）最近一期發布的《全球金融穩定報告》分析了人工智能在提高投資和資產配置的效率、幫助完善組合投資框架、改進回報預測方面的作用。根據市場研究機構估算，2024年全球智能投顧管理的資產規模已突破2萬億美元，較2023年增長超過30%。

同時也要看到，人工智能正在改變傳統物理服務模式，對依托密集的物理網點和客戶經理的中小銀行沖擊最大。對這方面的影響還需要進行深入的研究。

關注人工智能提升效率與加劇風險的雙重效應

在尚福林看來，當前，我國人工智能發展的總體態勢良好，正處在加強人工智能布局、加快數字化智能化轉型的歷史機遇期。算力、算法和數據是大模型應用的三大支撐要素。

“同時也要清醒看到，人工智能的算法‘黑箱’、數據污染、模型缺陷等潛在風險問題不容忽視?！鄙懈Ａ直硎?，特別是在金融行業應用時，應關注人工智能帶來的效率提升與風險加劇的雙重效應。

一是算力效率的提升是基礎。大模型需要依托由高性能計算芯片、存儲和網絡共同構成算力集群。硬件投入大、訓練成本高一直是在行業普及應用的重要制約因素。特別是中小銀行科技投入能力明顯不具優勢。這種局面隨著DeepSeek的出現，通過算法優化，減少了對高算力硬件的依賴，打破了“堆算力、拼資本”的大模型發展路徑。大大減輕了金融機構特別是中小機構的資本投入壓力，為彌合技術差距提供了機會。

二是數據安全可靠與隱私保護是關注焦點。人工智能讓數據的應用價值凸顯，也讓數據的安全防護變得更加復雜。

一方面，持續加強數據的隱私安全保護。金融機構和科技企業需要共同研究數據在采集、存儲、傳輸和使用過程中的安全性問題。要在保障安全和隱私前提下，推動金融與公共服務領域信息互聯互通，釋放數據要素潛能。

另一方面，關注數據污染。金融機構每天都在處理海量的數據和復雜的交易，信息的準確性和可靠性至關重要。在金融行業，信息污染風險同樣存在。如果虛假信息被灌入訓練模型，有可能污染模型的訓練數據。一旦部署到金融交易、風險分析當中，可能會引發連鎖反應，造成難以估量的損失。

三是提高模型算法的透明性和可解釋性是關鍵。深度學習模型目前還存在不可解釋性，輸出的結果難以解釋和追溯，增加了監管的難度。訓練數據中的偏差會導致算法輸出的不公平或錯誤。人工智能工具是根據過去的數據進行訓練的，可能無法準確反映現實和預測未來。人工智能驅動的高頻交易提升市場反應速度的同時，也放大了波動性。當多數人工智能策略采用相似風險模型時，這種同質化響應可能會加速放大負面反饋循環，進而加劇金融脆弱性。此外，需要強調一點，在模型訓練中，還要充分體現國家的政策導向和相關要求。

尚福林稱，需要積極采取措施。一方面，在技術上強化垂直領域的專業性，在技術基座基礎上針對金融行業特點進行精細訓練，對生成內容及時進行交叉驗證，提升模型的準確性和可靠性。另一方面，監管機構應密切關注人工智能技術在金融領域的應用動態，增強對智能算法風險的穿透式分析能力，健全智能算法的規則制度，提升算法可解釋性、透明性、公平性和安全性。

責任編輯：方杰