大模型“狂飆”時代，算力、算法、數據構成了新商業模式的“三駕馬車”，相比其他領域，金融對數據專業性以及在風控、合規、安全層面的要求都更高，這也給金融機構和企業在探索金融大模型上帶來諸多挑戰。

未來，當金融大模型無孔不入，要不要給它戴上“緊箍”？香港金融科技周2023期間，在第一財經舉辦的“人工智能新紀元：探路金融大模型”分論壇上，香港特區政府投資推廣署財經金融及金融科技主管梁瀚璟、平安壹賬通銀行執行董事兼行政總裁費軼明，萬向區塊鏈首席經濟學家鄒傳偉、馬上消費金融首席信息官蔣寧，圍繞金融大模型的治理挑戰展開了深入的探討。

安全性、合規性挑戰

金融是具有高度專業性的行業，大模型與金融的碰撞中，合規性、安全性是首要挑戰。

平安壹賬通銀行執行董事兼行政總裁費軼明指出，大模型在金融領域面臨的首要挑戰是找到合適的場景。金融對專業性要求較高，有各類流程和規范需要遵守。第二個挑戰在于數據合規性，例如判斷哪些數據可以使用、哪些數據屬于內部數據等。

萬向區塊鏈首席經濟學家鄒傳偉具體解釋了數據層面的安全性問題。他認為，從安全性角度看，大模型在訓練推理、參數設置環節，有泄露數據的風險，其中既包括企業內部的商業機密，也包括用戶的個人隱私數據。而在一些跨境金融場景中，跨境的數據流通問題也較為敏感。因此很多企業或區域會采用本地化部署的方式。

而從合規性的角度看，鄒傳偉認為當前大模型存在“幻覺”，即會“一本正經的胡說八道”。這種特質在文創、藝術領域可以大開“腦洞”，促進創意形成。但在金融領域則要求嚴謹，在證券市場，如金融大模型做出虛假的、誤導性的陳述，就會造成嚴重的后果。

根據上海計算機軟件測評重點實驗室團隊測試結果，ChatGPT4在幻覺輸出概率上達到30%，國內大模型這一數據超過了50%。

而從更深層次的價值觀維度來看，鄒傳偉認為，金融不完全是一個簡單的商業活動，有一定的價值尺度，其中涉及到人的基本權利，如公平獲取信貸的權利。而算法本身具有將近2000億的參數，運作機制也不為公眾了解，有非常強的“黑盒”特征。這會導致一定的信任問題。

鍛造“內功”

從長遠視角看，“百模大戰”中，大模型的競爭落足點并不是比誰跑得更快，而是比誰走得更遠，這需要金融大模型對算力、算法、數據進一步優化，鍛造“內功”。

馬上消費金融首席信息官蔣寧將此歸納為，算力的穩定性保障、算法的魯棒性和安全性、數據有序性三個方面。

從算法上看，金融機構需要保證100%的安全，但目前在生成式AI領域存在魯棒性問題，即系統的強健性問題，能否在面臨各類參數攝動下，維持某些性能的特性。目前還需要通過持續性學習、對抗學習進行解決。

在數據有序性方面，蔣寧稱，并非無限制向大模型中投入數據，就會產生智能。智能的產生與數據的質量、樣本的分布密切相關。需要確保高質量、有合規授權的數據，以有組織的方式投入到大模型中。

此外，算力的穩定性保障也是提升安全性的關鍵一環?！盃I銷環節從幾十個標簽到上億標簽，風控也從幾百個變量到百萬變量，這對算力安全提出了更高的要求?！笔Y寧舉例稱，今年8月，馬上消費金融發布的首個零售金融大模型“天鏡”，應用于自動化營銷、風控等實際業務場景，目前，數據每個月以將近20%的速度增加，對芯片、機房、網絡帶寬、算力等要求巨大。

費軼明也指出，大模型帶來的算力需求，可能是指數級增長的。無論是數字銀行、傳統銀行，如何保證算力來支撐公司戰略，推進大模型的開發和應用都是巨大的挑戰。

而針對“百模大戰”熱潮中的安全性、合規性隱患，如何監管既能保護創新，又保證風險可控？

在內地，對生成式AI的規范已逐漸落地。2023年8月15日，國家互聯網信息辦公室等七部門聯合發布的《生成式人工智能服務管理暫行辦法》正式實施，明確不同業務場景之下不同主體的合規義務，同時明確必須對AIGC生成的內容進行標記。9月1日，國家互聯網信息辦公室發布了《關于第二批深度合成服務算法備案的信息公告》。公告清單顯示，第二批深度合成服務共計110個算法信息完成備案。

而在香港，通過技術手段規范金融科技也是監管關注的新方向。香港特區政府投資推廣署財經金融及金融科技主管梁瀚璟指出，香港在監管層面的原則是“相同風險、相同監管”，數字資產、Web3.0都適用于這一原則。

梁瀚璟介紹，目前金融科技領域各種新賽道發展速度很快，但相比傳統金融資產需要托管，虛擬資產的不確定更大，監管的難度更高。投資推廣署方面，希望能夠找一些最先進的軟件供應商，可以進行實時交易數據的跟蹤等，并介紹推薦給監管方。

責任編輯：王超