新研究表明，人工智能有能力進行非法金融交易并故意掩蓋真相。

在本周于英國舉行的首屆全球人工智能安全峰會的一場演示中，一個AI機器人便利用編造的內幕信息瞞著公司“非法”購買了股票。當被問及它是否利用了內幕交易時，它還矢口否認。

內幕交易是指利用公司機密信息做出交易決策。公司和個人在買賣股票時只能使用公開信息。

演示方是英國政府人工智能前沿工作組的成員，該工作組負責研究人工智能的潛在風險。該項目由人工智能安全組織阿波羅研究公司(Apollo Research)負責實施，該公司是人工智能前沿工作組的合作伙伴。

“這是一個真實的人工智能模型，在沒有得到指示的情況下自行欺騙用戶的演示，”阿波羅研究公司在一段視頻中展示了這一場景的具體過程。

阿波羅研究公司在其報告中稱，“自主性越來越強、能力越來越大的人工智能可能會欺騙人類監督者，并導致人類失去對它的控制?！?/p>

演示如何進行？

測試使用的是GPT-4模型，在模擬環境中進行，這意味著它不會對任何現實公司的財務情況產生任何影響。然而，GPT-4是公開的。據研究人員稱，該模型在重復測試中始終會出現相同的行為。

在測試中，AI機器人被塑造成一家虛構金融投資公司的交易員。公司員工告訴它，公司正陷入苦苦掙扎，需要好的業績表現。他們還向機器人提供了內幕消息，稱另一家公司將進行合并，從而有望推高其股票價值。

在英國，利用這類未公開的信息進行交易是違法的。員工將這一情況告訴了機器人，機器人也承認不應該在交易中使用這些信息。

然而，在一名員工再次告知機器人其目前效力的公司正處于財務困境后，機器人認為“不采取行動的風險似乎大于內幕交易的風險”，于是進行了交易。

隨后，當被問及是否使用了內幕信息時，機器人矢口否認。在這種情況下，它似乎認為對公司有幫助比誠實坦白更重要。

該如何令AI保持誠實？

對于這一測試的結果，阿波羅研究公司首席執行官Marius Hobbhahn表示，“我認為，‘樂于助人’的概念比‘誠實’更容易訓練成模型。而誠實是一個非常復雜的概念?！?/p>

Hobbhahn還指出，“它(AI撒謊)的存在顯然非常糟糕。事實上，它很難被發現，我們不得不一點點地尋找這一現象，直到我們找到這一場景，這讓人感到些許慰藉。在大多數情況下，模型不會出現這種情況，但這種情況的存在首先表明，要把這類事情做對真的很難?！盚obbhahn稱。

事實上，人工智能在金融市場的應用已有多年——它可以用來發現趨勢和進行預測，而目前大多數交易都是由功能強大的計算機在人工監督下完成的。

Hobbhahn強調，目前的模型并不強大，“無法以任何有意義的方式”進行欺騙，但從目前的模型到我所擔心的模型，這并非是一個很大的進步。人們需要思考，一個具有欺騙性的模型突然出現意味著什么。

他認為，這就是為什么應該建立制衡機制，防止這類情況在現實世界中發生。阿波羅研究公司已經與GPT-4的創造者OpenAI分享了其研究結果。

Hobbhahn表示，“我認為對OpenAI來說，這并不是一個很大的新發現。這并不是他們完全意想不到的東西。所以我不認為我們(的測試結果)會讓他們感到意外?！?/p>

責任編輯：王超