“大語言模型釋放了 AI 的強大潛力，而現在是小模型高效應用的時代?！?/p>

近日，《麻省理工科技評論》發布2025年“十大突破性技術”，小語言模型位列首位。麻省理工科技評論認為，如果你的需求是重復性較高的特定請求，那么并不需要整個互聯網的數據來訓練模型。在某些任務中，專注于特定數據集的小模型，性能可以媲美甚至超越更大的模型。

事實確實如此。尤其對于提供專業服務的企業來說，直接部署通用大模型不僅成本高，而且往往無法解決具體行業里的專業場景問題，比如讓通用大模型推薦合適客戶的金融產品，或者對一段金融客戶服務過程進行效果評價，TA就會力不從心或者出現幻覺胡亂回答。

通用大模型并非萬能，大模型落地也不是簡單粗暴的一力降十會。不同行業的企業要結合自身積累的數據、知識、業務場景、業務流程等資源，進行針對性的精細化打磨，構建起企業自己的行業大模型以及一系列基于場景的大模型應用，這才是大模型落地真正行之有效的方法。

在大模型落地的賽場上，金融行業是領跑者之一。因為金融行業天然具有數據屬性和良好的數字化基礎，同時金融企業和機構具備強烈的數智化升級需求與多樣化的業務需求，以及對新興技術的較高接受度與資金支持度。包括證券、銀行、保險、信托、財富管理等在內的所有金融細分行業的每個場景，都值得用大模型重塑一遍。

金融證券機構正在用行業大模型重塑競爭力

金融證券行業大模型重塑的場景可以分為外部客戶服務、內部員工提效和監管科技三大類。

外部客戶服務包括智能投行、智能投顧、智能投研、智能投資、智能營銷、智能客服等場景；內部員工提效包括智能風控、智慧運營、智能辦公等場景；監管科技則涉及身份識別、監管數據支撐、風險預警等場景。

來源：《交易技術前沿》總第56期《人工智能大模型在證券行業應用路徑與實踐》

這些場景因為技術成熟度和場景價值度會有一些優先級排序，并不都是一蹴而就齊步實現。比如智能客服、 智能辦公、智能營銷、智慧運營等場景是技術相對最成熟和容易落地的場景，也是目前金融證券企業和機構在集中推進大模型落地的場景。而智能投資、智能投行等場景技術成熟度相對較低，未來落地仍需要一些時間。

客戶經理和客服坐席是金融證券企業與客戶連接互動的關鍵角色?？蛻艚浝韨戎赜谔峁I的投資顧問服務和長期關系維護，客服坐席側重于即時的問題解決和日常服務支持。兩者相輔相成，共同為客戶提供全面、優質的服務體驗，從而增加客戶對機構的信任和滿意度。因此，持續提升客戶經理和客服坐席的專業化水平、銷售能力和服務能力就成為所有金融證券機構最重要的事項之一。

2024年初，在與多家大模型廠商深度交流后，中信建投證券選擇中關村科金作為大模型應用落地的合作伙伴，并攜手打造出證券行業金融產品學習的“大模型智能陪練平臺”。該平臺深度融合了智能知識助手和智能陪練功能，為中信建投證券300余家分支機構的客戶經理們提供精準、高效、合規的金融產品信息獲取及學習服務。

相比傳統的集中培訓、案例教學、觀摩學習、集中考試等培訓方法，大模型智能陪練平臺使中信建投證券的產品部門整體節省80%以上的產品培訓時間，銷售團隊提升70%以上的知識獲取效率，預計整體可推動企業金融產品銷售業績提升20%左右。

中信建投證券“大模型智能陪練平臺”也因為在大模型技術應用領域中具有前瞻性、創新性、并且能夠帶來實際價值和示范效應的實踐，榮獲“2025沙丘社區大模型先鋒案例TOP50”獎項，以及“2024愛分析·金融數字化最佳實踐案例”。

從知識應用到知識掌握，中信建投證券的大模型應用落地之路

金融證券機構傳統培訓方法難以解決的關鍵問題是，企業積累的行業知識大多停留在個人層面，無法有效轉化為企業的知識庫資源，優秀的銷售技巧難以通過傳統IT系統進行結構化保存，即便企業擁有部分相關知識，由于缺乏實踐也可能淪為沉默的圖書館，難以起到達到良好的培訓學習效果。此外，對于有大量產品資料的企業，客戶經理難以通過高效的手段快速獲取關鍵產品知識，導致對產品理解不深，影響產品銷售目標達成。

中信建投證券“大模型智能陪練平臺”從產品知識庫入手，第一階段打造智能知識助手，實現“知識應用”，第二階段建設智能陪練助手，提升“知識掌握”。而一切的前提是一個更懂金融證券知識的行業大模型。

中關村科金基于得助大模型平臺的模型一站式訓推能力，對百億級參數通用大模型完成10億token金融證券知識注入，并針對金融產品培訓陪練進行模型分層LoRA微調。訓練完成的行業大模型相比通用大模型，金融證券專業知識的理解、推理、內容生成能力提升60%以上，為智能知識助手、智能陪練助手的應用打下堅實基礎。

基于訓練后的行業大模型，智能知識助手實現了知識管理、知識問答、智能產品推薦等新的場景功能，有效提升知識獲取效率和知識應用場景。

中信建投證券每個金融產品發布時都會配有一套標準產品素材包，包括產品相關資料，以及精英客戶經理與客戶溝通過程的記錄，涵蓋Word、PDF、Excel、PPT、圖片、音頻、視頻等多種格式類型。智能知識助手基于OCR多模態文檔解析、ASR模型和音視頻等技術，對這些素材進行精準解析，實現版面、圖表、表格的識別適配和音視頻的文字轉譯，整體識別準確率高于95%。

同時，知識助手與企業內部業務系統進行無縫集成，實現多渠道、多系統、多格式類型文檔素材知識匯集，通過自動打標簽、以及大模型對業務流程的理解，智能知識助手可以提供準確的、全面的FAQ問答信息，還可根據金融產品、基金經理、管理機構、研究員4個維度進行知識分類，幫助客戶經理更好的進行產品推薦，確保推薦產品符合客戶訴求，提升銷售合規性。

智能陪練助手可基于不同形式的培訓材料和培訓要求，使用行業大模型智能生成對練話術，陪練助手會模擬成一個對金融產品感興趣的客戶并提問，通ASR（自動語音識別）和TTS（文本到語音）技術，陪練助手可提供真實的語音對練場景，增強交互體驗，輔助客戶經理完成培訓對練。對練完成后，陪練助手會針對回答準確度、語速、響應時間、音量、服務態度等五個維度進行打分，并給出對練效果評價。通過這樣模擬真實的語音對練交互練習， 在實際演練中提升客戶經理展業過程的專業能力及應變能力。

大模型智能陪練平臺采用私有化部署，最大程度確保企業內部數據安全。此外，大模型智能陪練平臺還結合超過千項金融行業內容質檢規則，對大模型生成內容進行實時質檢與反饋，確保生成內容的合規性高于99%。

除了外部客戶服務相關的智能陪練、智能知識助手，行業大模型在內部員工提效方面同樣發揮巨大價值。比如，在風控合規領域，中關村科金攜手申萬宏源證券，打造了證券行業合規領域的專有大模型，推動知識庫平臺的智能化服務升級。依托中關村科金自研的得助大模型平臺，與申萬宏源證券的內部知識庫和業務系統進行深度融合，打造出一款大模型知識助手應用。通過優化大模型問答RAG 模型的多模態文檔識別和Rerank 檢索算法等關鍵技術，該助手能夠顯著提升在合規領域的問答能力，幫助員工更高效地查詢企業規章制度，確保業務的合規性。

此外，華福證券同樣引入了中關村科金的智能質檢系統，利用大模型、ASR智能語音、NLP語言處理等技術，實現對企微客服海量脫敏交互數據的合規質檢，系統先進行機器質檢，然后根據業務需要進行人工抽檢或復檢，通過人機結合的方式大幅提升質量管理的效率及會話數據的分析能力。

平臺+應用+服務是企業大模型落地的最佳路徑

中信建投證券的“大模型智能陪練平臺”、申萬宏源證券的“合規領域的專有大模型”的背后邏輯十分相似，都是基于企業知識庫融入行業大模型能力，并接入內部業務系統，再打造滿足具體場景需求的大模型應用。

這背后折射出國內企業在大模型落地上的一種共識：通用大模型主兜底，確保智能水平下限足夠高；行業大模型主落地，確保場景應用價值足夠大。從通用大模型到行業大模型和大模型應用，這一步工作很大程度上決定了大模型落地的成效和價值，大模型平臺正是其中的關鍵。

大模型平臺是一個專門為大模型的開發、訓練、部署和應用提供支持和服務的綜合性平臺，無論是通用大模型的管理，行業大模型的精調，以及大模型應用的構建和部署，都離不開大模型平臺。中關村科金不做通用大模型，但全力做好企業一站式大模型平臺。剛剛升級的得助大模型平臺2.0具備算力統一調度，一站式模型訓推，應用快速構建三大能力，可以滿足各類企業大模型應用的構建和部署需求。同時，得助大模型平臺2.0 內置上百套基于企業最佳實踐的場景應用模版，把個性化場景抽象成標準化套件，進一步降低企業大模型落地的時間和成本。

大模型價值需要通過大模型應用來呈現。對ToB企業來說，具備更豐富的行業Know-How和更深厚的行業知識積累，才更有可能打造出滿足企業和客戶需求的大模型應用。作為一家領先的大模型技術與應用公司，中關村科金聚焦大模型應用落地，特別是在企業高效連接客戶的場景，擁有10余年的行業經驗和產品能力積累。目前中關村科金的行業大模型和大模型應用已經在證券、銀行、政務、央國企、保險、財富管理、制造、零售等多個行業相繼落地，在提升客戶體驗和員工體驗兩大方向上幫助企業實現對外增長和對內提效。

在2024年12月舉辦的大模型技術與應用創新論壇上，中關村科金正式發布大模型時代的“三級引擎戰略”，提出“平臺+應用+服務是企業大模型落地的最佳路徑”，這既是中關村科金的心得和實踐，也是希望跟產業一起討論，如何讓中國的大模型落地做得更快更好。

平臺是大模型落地的技術引擎，既包括大模型平臺也包括數字化平臺。對想要擁抱大模型的企業來說，結合自身數字化平臺優勢，選擇自建或者合作一個大模型平臺來打造行業大模型和大模型應用是邁入智能化階段的關鍵。

應用是大模型落地的產品引擎，在企業經營全流程的各個環節中，都有可能通過大模型進行智能化升級，比如金融證券行業中提到的外部客戶服務、內部員工提效和監管科技等細分場景，都可以利用智能化和數字化的平臺相結合，打造出智能化的應用。比如前文提到的智能陪練、智能知識助手等。

服務是大模型落地的價值引擎。這里的服務既包含大模型廠商對企業的服務，也包括企業對其客戶的服務。前者決定了企業落地大模型的效率和效果，后者決定了企業通過大模型應用為客戶和員工帶來的價值增量。

IDC最新預測，到2028年，60%的A1000企業將減少客戶關系管理支出，選擇更先進的數據工具、多樣化的數據源和人工智能驅動的界面。到2028年，人工智能驅動的自動化將使50%的A2000企業能夠采用身臨其境的技術來重新構想客戶參與方式，并促進更深層次的聯系。

在企業高效連接客戶這個賽道，行業大模型正在成為主流。

有多少行業就有多少行業大模型，有多少場景就有多少場景大模型應用。2025年是大模型應用落地全面爆發的一年，時不我待。

責任編輯：王煊