人工智能領域，一年一個“王炸”。

2022年11月30日，ChatGPT橫空出世，成為人工智能技術發展的里程碑，14個月之后的2024年2月16日，視頻生成大模型Sora問世，再度刷屏全球網絡。

從ChatGPT到Sora，新一代人工智能在收獲大量關注的同時，也引發公眾的安全擔憂。人工智能算法應用在金融行業的普及，更為金融信息安全帶來新的挑戰。

挑戰1：AI算法應用風險

應用于人工智能的機器學習和深度學習技術，工作原理極為復雜，導致人工智能算法通常缺乏可解釋性。人工智能產品和系統受到藥餌攻擊、對抗樣本攻擊、物理攻擊、后門攻擊等惡意攻擊事件層出不窮，增加了金融交易風險和數據泄露風險。

為保障人工智能金融應用健康發展，監管部門不斷制定、完善相關法律法規與行業規范。2021年3月，中國人民銀行發布了《人工智能算法金融應用評價規范》（JR/T 0221—2021）（以下簡稱《人工智能算法規范》），為金融機構加強人工智能算法應用風險管理提供指引。

中國金融認證中心（CFCA）立足于金融行業，建立了涵蓋安全性、可解釋性、精準性和性能等方面的人工智能算法檢測體系，可提供符合《人工智能算法規范》要求的人工智能算法金融應用評估服務。

2021年10月，CFCA作為試點檢測機構參與了人工智能算法金融應用安全測評試點工作，對寧波銀行“應用于快審快貸產品的LightGBM算法”進行了檢測。檢測結果顯示，寧波銀行送檢的應用于快審快貸產品的LightGBM算法符合規范要求，具有較強的安全性保障。

挑戰2：人臉識別欺詐風險

人臉識別技術作為身份識別的一種手段，發展迅速并廣泛應用于各行各業。然而，來自非法用戶的人臉欺騙攻擊給人臉識別技術應用帶來很大的安全隱患。尤其近年來AI換臉、視頻生成大模型性能越來越先進，客觀上增加了人臉識別欺詐風險。

為了解決這一問題，人臉活體檢測技術應運而生，可有效抵御照片、視頻、換臉、面具、遮擋、3D動畫以及屏幕翻拍等常見攻擊手段。

中國人民銀行于2019年1月發布《人臉識別技術線下支付安全應用規范（試行）》（以下簡稱《人臉識別安全規范》），從客戶端軟件、受理終端、交易系統等維度提出了諸如通用技術要求、系統安全要求、交易安全要求等多方面的要求。

CFCA作為第三方檢測機構，從多角度提供人臉識別活體檢測算法相關安全檢測服務，除了依據《人臉識別安全規范》覆蓋人行監管要求外，還會結合在項目中積累的如對抗樣本攻擊、3D動畫、真人攻擊、自動化測試、接口安全驗證等實戰經驗，優化相關檢測服務。

近年來，CFCA在人工智能領域積極布局，參與國家和金融行業技術標準和檢測標準的制定，提供適用于人臉識別活體檢測算法的專業安全檢測。

AI“狂飆”風口已至，CFCA愿與各方攜手，共同推進人工智能算法應用規范、健康發展。

責任編輯：韓希宇