當大模型走向商業化落地，一批“老概念”正在迎來新的應用浪潮。

與數據中臺、業務中臺類似，AI中臺并不是一個新鮮詞。一般而言，各項“煙囪式”的獨立業務系統架構，希望通過AI中臺共享智能化能力，降低AI業務場景的開發門檻。但在大模型技術出現之前，AI技術應用的場景往往也是一個個孤島，缺乏泛化的通用落地場景。

大模型技術的能力涌現，使得AI中臺再次成為企業，特別是金融機構探索的方向，而作為AI應用與大模型之間的中間層基礎工具，大模型中間件也成為當下投資機構關注的熱點。面對AI對基礎設施、工具、應用層的全面重塑，投資機構又將如何“掘金”？

重構AI中臺

“在沒有大模型的情況下，我們過去也在思考AI應該怎么做?！币患一鸸拘畔⒓夹g部總經理向記者坦言，但在此之前AI的應用始終是“煙囪式”的，一旦遇到另外一個未覆蓋的新問題，業務部門就需要重新開發相應的模型，導致算力使用效率不高。

“大模型技術對傳統人工智能廠商和IT服務商的沖擊都是非常大的?！焙闵娮邮紫茖W家白碩向記者提到，過去各個AI系統都是煙囪式的單個系統，每一個部分都是一個小模型，都需要數據訓練，而小模型的學習效果也存在提升空間，但基于大量參數的大語言模型技術使得機器具備同時完成不同任務的通用能力。

與此同時，AI廠商與IT廠商的業務范圍也在改變?！斑^去IT廠商與AI井水不犯河水，或者淺淺涉足AI的局面打破了?！卑状T指出，AI賦能已成為IT服務商的必爭之地，而在資管領域的AI技術應用都面臨重塑?！凹夹g層面，無論是界面、數據庫訪問、業務流程、API調用都出現低代碼化的趨勢，大家會普遍使用AI工具來提質增效?！卑状T表示。

在考量新興技術應用時，安全是重中之重。

在保障數據安全的情況下進行大模型應用的落地，把通用數據建設能力沉淀下來，搭建AI中臺，使得各業務條線共享通用智能化能力，成為許多金融機構的第一選擇方案。

“企業專屬私有可控的大模型是必然形態，機構需要保障大模型100%的安全和所有權?！笨平芸萍糃TO高經郡告訴記者，目前大模型應用落地的解決路徑主要有三種：第一是進行全量模型訓練，在企業做大模型的私有化部署，結合企業私有數據進行訓練，打造垂直領域的專業大模型。第二是基于開源或商業大模型，結合企業私有化數據對參數進行微調，使得大模型在掌握企業私有化數據的基礎上進行深度理解。第三是通過通用大模型接口，幫助企業構建數據知識庫，打造企業專屬的AI應用。

“第一種方案需要從0開始構建自己的大模型，需要大量的人才與資金投入，當下基于開源大模型結合私有數據進行微調與模型訓練是比較普遍的一種方案?！备呓浛ぬ寡?。

前述基金公司信息技術部領導告訴記者，在大模型技術出現后，其所在機構與多個系統做了連調測試，并嘗試進行本地化部署，將大模型進行微調、精調，基于公司原有的量化平臺、機器學習成果、算力中臺探索AI中臺建設。

他指出，搭建AI中臺需要將大模型作為所有應用的入口，基于業務場景的核心需求搭建相應的業務中臺，最終實現大模型在具體業務上的應用。但是隨之而來的問題是，一方面在進行精調時算力不夠，另一方面是落地時選擇不同廠商算法較為復雜?！白詈?，最難的是數據?！彼蛴浾咧毖?，例如在自動生成代碼的場景下，要實現項目可用，至少要提供30個以上的優質項目代碼，這對于機構來說有較高門檻。

大模型中間件或再“受寵”

在金融大模型落地的過程中，如何縮短AI研發周期、降低AI應用成本、提供實際工作效率？

受到大模型浪潮推動，作為位于AI應用與大模型之間的中間層基礎軟件，在解決大模型商用化問題方面，中間件行業再次受到市場關注。其主要解決大模型落地過程中資源調度、數據集成、模型訓練、應用集成、知識庫與大模型融合等問題。

在政府、金融、電信、交通等重點行業，中間件作為信創的重要部分，曾有過快速增長。上市公司東方通（300379.SZ）、寶蘭德（688058.SH）是金融行業國產中間件市場占有率最高的兩家公司，在2020年東方通凈利潤同比增幅超過72%，但受疫情沖擊影響收入確認與業務開展，去年全年與今年一季度兩家公司業績表現并不佳。

隨著大模型技術的商用落地，中間件行業有望迎來新市場需求。今年6月9日，東方通在互動平臺表示，AI大模型訓練需要依托大量的硬件基礎設施來對海量數據來訓練和優化，在數據處理和部署管理方面有著很高的要求。因此需要有高效的數據處理和管理中間件來支持大規模數據的存儲、傳輸和處理，支持模型的快速部署、監控和調優等，還需要通過中間件來支持多種不同的硬件和軟件環境，以滿足不同場景下的需求。

“對于企業而言，降低大模型落地實施的能力，企業大模型的中間件是關鍵?！备呓浛ぬ岬?，例如AI OPS能力可以加速大模型應用，提供了一整套工具幫助機構解決私有環境中大模型訓練的工程問題，通過提供全自動化訓練環境配置與構建，低代碼一站式完成數據接入、標注、監督微調、反饋強化學習和模型發布全流程，同時可以支持數據回流及模型的持續迭代。

投資機構如何“掘金”？

大模型正在重塑基礎設施層面與應用層，面臨這些新機遇，投資機構如何看待新市場？

風險投資機構XVC合伙人陸宜向記者表示，目前全球生成式AI的發展分三個層面，一是模型層，二是基礎設施與工具層，三是應用層。

“模型層的變化日新月異?！标懸颂岬?，無論是Open AI的ChatGPT還是Meta AI發布的Llama2，在參數量級與實際表現的發展都非常迅猛。在工具層，隨著模型的快速發展，數據庫、開發框架等基礎設施也在同步進行。從應用層面來看，目前“百花齊放”的大模型已經成為多個垂直領域釋放生產力的工具。

談及基礎模型的快速演進，亞馬遜云科技生態架構師團隊負責人孔雷直言，這主要是開源大模型開源生態越來越受到市場歡迎?！霸龠^幾個月，你可能會發現大模型變得非常平民化，門檻越來越低，開源基礎模型又可以商用，大模型的成本會大幅降低?！彼J為，隨著C端大模型應用的普及，下一步大模型應用領域將主要集中在B端場景。

與此同時，由于訓練大語言模型需要投入的參數量巨大，整個環節會變得非常精細化和系統化?！袄缱罱袌霰容^關注的向量數據庫，都是傳統數據公司目前發展的新業務方向?！笨桌滋岬?，在大模型應用落地的過程中，在算力、算法、數據層面廠商都會有新的機遇，伴隨著大模型的生態來展開。

“我們目前投了兩家與大模型相關的公司，一家做基于大模型的個人情感陪伴聊天，一家為大模型及AI應用落地提供基礎設施?！标懸烁嬖V記者，當下國內大模型市場還處于快速發展的早期，雖然大量大廠、行業領袖已經躬身入局，但是對于創業公司來說，大模型基礎設施公司和應用型公司還有大量機會等待挖掘，投資機構也會緊密跟蹤。

責任編輯：王超