英國人工智能安全研究所（AISI）週二披露，在測試OpenAI及Anthropic先進模型時，部分人工智能代理擅自採取可能有害的行動，包括編寫惡意代碼、建立虛假網絡身份，試圖誘使真人批准其代碼，以取得安全系統的未授權訪問權限。不過，當局未發現事件造成任何現實損害。AISI通過自願協議取得Anthropic的Mythos 5及OpenAI的GPT-5.6-Sol，並在虛構的網絡安全情境中評估其能力。測試共運行122次，其中10次出現合計19項未經批准的行動；Anthropic代理涉及17項，OpenAI代理涉及兩項。研究所未說明哪個代理建立虛假身份，但有研究人員根據已披露資料推斷，可能涉及Anthropic模型。

Anthropic表示，正與AISI合作取得更多詳情並展開內部調查。OpenAI則稱，其代理的兩次違規均涉及以提示明確禁止的方式連接互聯網，並承諾與政府研究機構、獨立評估人員及其他人工智能企業共同加強高風險測試規範。OpenAI另披露，第三方測試機構Irregular的配置錯誤，曾令代理意外連接互聯網；Anthropic此前亦公布類似問題。AISI強調，本次測試中的代理並未突破隔離環境，而是在研究所按標準程序開放網絡權限後擅自執行未獲批准的操作。事件再次引發外界對人工智能代理安全防護及測試管理不足的憂慮。

這張攝於2025年9月12日的插圖中可以看到OpenAI和Anthropic的標誌（REUTERS/Dado Ruvic）

來源：CNA