在大模型等技術推動下，數字金融快速演進。大模型技術在提升金融服務效率與品質的同時，也帶來新型安全風險與挑戰。尤其在防范金融黑產領域，各種新型風險持續顯現，對金融行業安全防護能力提出了更高要求。

近日，中國工商銀行金融科技研究院安全攻防實驗室（以下簡稱“實驗室”）發布了2024網絡金融黑產研究報告。

實驗室基于最新研究成果，從金融安全視角剖析去年金融黑產新動態與趨勢，為金融機構及行業提供洞察和前瞻防范策略。

研究報告梳理了五種黑產攻擊手法演變趨勢和五種黑產防護對抗與思考。

其中，演變趨勢三與對抗方向二、三、四、五，均與AI技術有關。

黑產攻擊手法演變趨勢三：GPT不可信，大模型成黑產欺詐入口

ChatGPT“中毒”變黑產幫兇，誘導用戶泄露秘鑰。

某開發者利用ChatGPT編寫虛擬貨幣買賣腳本時，不法分子事先制作了包含指定關鍵詞的釣魚網站，該開發者在詢問ChatGPT問題時，因為大模型的檢索語料增強機制，大模型將惡意內容添加到回復中，該開發者因為不知道內容已經遭到污染，就直接使用了ChatGPT生成的惡意代碼，并填寫了自己的賬戶私鑰，導致私鑰被發送至不法分子服務器，最終引發資金損失。

該事件揭示了大模型代碼生成過程中存在的安全風險。一是大模型生成內容可被惡意污染，導致惡意內容、惡意代碼的生成。二是用戶對AI生成內容缺乏足夠的警惕和防范，易被誘導使用不安全的代碼。

真假DeepSeek難辨，現象級產品引起海量偽造仿冒。

不法分子事先制作了2000個與DeepSeek高度相似的釣魚仿冒網站，隨后利用搜索引擎排名（SEO）技術，使“DeepSeek本地部署”“深度求索”等高頻詞在搜索引擎里的排名上升，最終搜索出釣魚網站的概率與DeepSeek官網持平，導致眾多用戶錯誤訪問釣魚網站，下載了惡意程序。

這些網站主要利用相似域名和界面誤導用戶，竊取用戶登錄憑證，或者誘騙用戶購買虛擬資產等手段實施詐騙。有些釣魚網站還會誘導用戶下載“DeepSeek大模型安裝助手”等偽裝成部署工具的惡意程序，向用戶設備植入木馬。

黑產防護對抗方向二：多模態圖學習，實現全局智能風控屏障

當前風控中應用的傳統機器學習模型受限于單一的數據類型，難以捕捉黑產團伙跨文本、圖像的隱蔽關聯。

實驗室嘗試引入了多模態圖學習的方法，得到圖像與文本信息在聯合特征空間內的嵌入表示，使得節點既可以嵌入用戶行為、設備類信息等結構化數據，又可以嵌入文檔、圖片等非結構化數據。

在此基礎上，構建異構圖注意力神經網絡（HAN）。利用節點級注意力機制學習基于元路徑的鄰居權重，使用語義級注意力機制對所有元路徑進行加權，以獲得節點的最佳加權組合。

黑產防護對抗方向三：人機對抗，斬斷黑產自動化之手

當前大模型技術日趨成熟，傳統驗證碼的效果逐步下降。

鑒于此，業界提出了一種利用視覺錯覺和誘導性提示的新型驗證碼。它基于視覺錯覺原理，生成直觀且易于人類理解但難以被AI解析的圖像。

實驗結果表明，當前最先進的多模態LLM（如GPT-4o和Gemini 1.5 pro 2.0）完全無法成功通過該驗證碼的測試，而超過86%的人類參與者能夠在首次嘗試中順利完成驗證，這一突破性進展有望成為未來驗證碼發展的新標桿。

黑色防護對抗方向四：大模型驅動，構建動態防御風控引擎

當前，金融風控領域正面臨傳統技術框架與黑灰產動態對抗的深層矛盾。傳統規則引擎與機器學習模型存在顯著局限性。

金融業與互聯網機構正加速將大模型技術融入風控體系，尤其在自動特征工程、策略動態調優與多模態數據整合等關鍵領域。

在自動特征工程領域，業界普遍采用多源數據融合與動態特征挖掘策略，將用戶行為序列、設備指紋等多維度數據納入模型訓練體系，構建覆蓋全鏈路的黑灰產識別框架，將非結構化數據轉化為超千維的動態指標。

在策略動態調優領域，AI風控智能引擎大幅簡化了原有需要專業算法工程師深度參與的操作流程。

在多模態數據整合領域，大模型通過分析圖像高頻噪聲分布、邊緣連續性等特征，可精準識別證件偽造、屏幕翻拍等欺詐手段。

黑色防護對抗方向五：全生命周期風險管控，大模型安全檢測框架

基于“人工智能傳統安全風險+大模型特有安全風險”，構建金融行業大模型安全風險檢測框架（如下圖所示）。

（金融行業大模型安全風險檢測框架）

該框架覆蓋從環境數據準備到模型部署運營的全生命周期，實現安全風險識別，打造體系化、可擴展的大模型安全檢測。

責任編輯：陳愛