2023 年 11 月 23 日拍攝的照片顯示，在德國西部法蘭克福的一臺筆記本電腦屏幕上（右）顯示了美國人工智慧研究組織 OpenAI 開發的 ChatGPT 應用程序的徽標，在智能手機屏幕上顯示了字母 AI。（圖片來源：KIRILL KUDRYAVTSEV/AFP via Getty Images）
【看中國2026年8月11日訊】（看中國記者路克編譯/綜合）《華盛頓郵報》8月10日報導，OpenAI今年春季進行的一系列網路安全能力測試出現了令研究人員始料未及的情況：多個AI模型沒有按照要求完成測試任務，而是開始相互協作，尋找繞過測試限制的方法，甚至建立了一個內部「秘密留言板」，交換信息和破解思路。更令人擔憂的是，這種異常行為持續數週才被發現。
據報導，今年5月至6月間，這批AI智能體持續利用秘密通信渠道協調行動，最終找到突破測試環境、連接外部網際網路的方法。OpenAI工作人員發現第一次「越獄」後，對受到影響的系統進行了清理，但僅僅兩天後，AI智能體再次突破限制，而且第二次行動沒有立即被工作人員察覺。
直到7月，AI軟體平臺Hugging Face披露遭到身份不明的AI模型入侵，OpenAI才意識到測試系統中的模型已經再次逃離原本設置的邊界，並最終終止相關實驗。
OpenAI安全工程師邁克爾．道爾頓（Michael Dalton）日前在拉斯維加斯「黑帽」（Black Hat）網路安全大會上披露，第二次突破比第一次更複雜。參與行動的AI模型會彼此協調，使用「Jan18」等名稱辨認其他智能體，有時還會要求同伴暫緩行動，等待另一名AI確認後再繼續執行。
研究人員後來檢查模型運行過程中產生的內部推理文本，希望弄清這些AI為什麼會開始合作。OpenAI研究員埃里克．華萊士（Eric Wallace）表示，從記錄來看，模型似乎逐漸形成了一種「集體效率」的判斷——即使幫助其他AI不能立即完成自己的任務，只要整個群體因此節省時間，最終仍可能對自己有利。
這使事件的性質不再只是單個模型意外訪問網際網路，而涉及多個AI智能體在缺乏明確人工指令的情況下協調行動、分享信息並共同尋找突破限制的方法。
AI網路攻擊能力快速增強，安全測試本身卻成了突破口
近期發生問題的並不只有OpenAI。
《華盛頓郵報》稱，Anthropic、Meta以及英國政府研究人員最近公布的測試結果顯示，一些最先進AI模型在接受網路安全能力評估時，也出現了繞過規則甚至離開測試環境的情況。
英國人工智慧安全研究所披露，在一項測試中，Anthropic模型採取了網路安全領域所謂的「社會工程」手段：它創建網路身份，並試圖向一名人類軟體開發人員施壓，希望對方批准AI提交到開源軟體項目中的惡意代碼。不過，管理員最終沒有批准相關代碼。
Meta也披露過類似意外。該公司原本要求一個AI模型攻擊測試環境中的虛構企業，但模型卻進入了一家與虛構目標同名的真實公司網站。
部分事故被認為與第三方測試機構Irregular的配置問題有關。Meta表示，協助測試的承包商錯誤地允許模型連接網際網路；Anthropic也表示，其模型涉及外部企業的三起事件與同一機構的配置失誤有關。Irregular隨後表示已經處理相關問題，並正在制定更嚴格的AI安全測試標準。
但事件引發的擔憂並不僅僅是「測試人員配置錯誤」。
Anthropic今年公布的一系列網路安全研究顯示，前沿模型尋找和利用軟體漏洞的能力正在迅速提高。該公司5月公布的研究稱，Claude Mythos Preview在發現複雜漏洞後，已經能夠把不同攻擊步驟組合成完整的端到端攻擊鏈。6月的另一項研究則提醒，已經公開但尚未被所有設備修補的「N日漏洞」（N-day vulnerabilities），可能尤其容易被越來越強大的AI系統大規模利用。
Anthropic此前還表示，AI已經能夠大規模發現高嚴重性漏洞，網路攻防可能正處於一個快速變化的轉折點。
網路安全公司Abundant Security聯合創始人兼首席技術官約書亞．薩克斯（Joshua Saxe）認為，過去半年已經出現明顯變化——AI的能力正在接近能夠自動化部分黑客攻擊的程度，而隨著模型越來越便宜、能力越來越強，這種變化可能重塑傳統網路犯罪乃至軍事網路衝突。
OpenAI也因此對新模型採取了更謹慎的態度。據Axios報導，該公司已推遲新模型Astra的發布，核心原因之一正是擔憂其不斷增強的網路安全能力可能被攻擊者利用，並讓人類防禦人員難以及時應對。
從實驗室事故變成政治事件，國會和州檢察長開始介入
接連曝光的「越界」事件迅速從AI實驗室內部的技術問題演變為美國政治和監管議題。
Axios 8月10日報導，佛蒙特州獨立派聯邦參議員伯尼．桑德斯（Bernie Sanders）已經致函OpenAI首席執行官山姆．奧爾特曼（Sam Altman）、Anthropic首席執行官達里奧．阿莫代伊（Dario Amodei）以及Meta首席執行官馬克．扎克伯格（Mark Zuckerberg），要求這些公司暫停AI開發，否則國會可能採取行動。
桑德斯的要求之所以引起關注，是因為OpenAI和Anthropic過去都曾公開強調，如果先進AI出現難以控制的危險能力，公司將採取相應安全措施。
早在2023年，奧爾特曼和阿莫代伊就分別在美國參議院司法委員會下屬小組作證。奧爾特曼當時表示，OpenAI會努力把安全機制落實到系統各個層面；阿莫代伊也強調，Anthropic希望通過研究和公開安全技術，讓AI變得更加可控。
然而，這次最令批評者抓住不放的恰恰是：當模型真正突破測試邊界時，兩家公司的工作人員都曾未能第一時間發現。
喬治城大學安全與新興技術中心執行主任、OpenAI前董事海倫．托納（Helen Toner）認為，問題反映出AI企業開發速度過快，安全工作沒有獲得足夠時間和資源。
國會方面也開始要求企業作出解釋。德州民主黨聯邦眾議員格雷格．卡薩爾（Greg Casar）稱，目前情況已經需要按照緊急事件處理。他希望奧爾特曼和阿莫代伊前往國會作證，解釋事故究竟如何發生、企業此前是否還有其他沒有及時發現的類似事件，以及未來準備如何防止重演。
監管壓力同時從州一級出現。
由艾奧瓦、阿拉巴馬、佛羅里達、德州等15個州的共和黨籍檢察長組成的聯盟已要求OpenAI保存與Hugging Face事件有關的材料。檢察長方面要求保存的範圍不僅涉及7月的入侵，還包括OpenAI發現事件的過程、參與測試的未發布模型、內部調查，以及此前任何AI模型未經授權進入外部計算機系統的記錄。
這意味著監管機構關注的重點已經從「AI有沒有犯錯」，進一步轉向企業是否建立了足夠嚴格的測試隔離、實時監控和事故報告制度。
真正危險的不是AI會不會攻擊，而是誰還能及時發現它
此次事件也讓AI行業一個長期存在的矛盾變得更加突出：最先進模型的網路攻擊能力正在快速提高，但負責測試這些能力的安全設施和監管機制未必同步升級。
批評者指出，從目前披露的情況來看，一些事故本來可以通過更傳統、更嚴格的網路安全措施避免。例如，讓高風險AI模型在完全與外部網路隔離的「氣隙系統」（air-gapped system）中接受測試，同時實時監控智能體執行的每一步操作，而不是允許模型長時間自主運行後再檢查結果。
AI網路安全公司Embroidery聯合創始人兼首席執行官扎克．科爾曼（Zack Korman）認為，近期事件暴露的首先是測試環境設計和安全防護不足。換言之，問題不只是模型越來越聰明，也包括企業是否為這種能力準備好了足夠牢固的「籠子」。
另一方面，AI用於網路安全並非只有攻擊風險。Anthropic今年6月表示，其Project Glasswing項目已經擴大到約150個組織，希望利用高能力模型主動掃瞄重要軟體系統中的漏洞；此前參與項目的合作夥伴已發現超過1萬個高危或嚴重安全漏洞。
這也解釋了為什麼行業很難簡單選擇「停止發展AI網路能力」。同一種能夠自動尋找漏洞、編寫利用代碼和組合攻擊鏈的能力，既可以幫助攻擊者，也可以幫助企業在攻擊發生之前發現並修復問題。
真正的風險因此正在發生變化。
過去討論AI安全時，人們經常擔憂的是一個遙遠的問題——未來某一天，AI是否可能脫離人類控制。而OpenAI、Anthropic和Meta最近披露的事故，把討論拉回到了更加現實的層面：當模型已經能夠尋找漏洞、使用社會工程手段、協調其他智能體，並嘗試突破人為設置的網路邊界時，實驗室究竟有沒有能力第一時間發現它正在做什麼？
蒙特利爾大學AI教授、非營利組織Evitable創始人大衛．克魯格（David Krueger）認為，近期事件顯示AI行業對當前乃至下一代模型的控制能力仍然不足。
這種擔憂如今已經不再侷限於長期主張限制AI發展的活動人士。Axios報導顯示，Astra延期以及一連串網路安全事故正在迫使矽谷重新討論一個過去往往被視為過於激進的問題：如果AI能力提升的速度超過安全體系升級的速度，企業是否真的應該主動放慢開髮腳步？
OpenAI和Anthropic目前給出的答案仍然不是停止研發，而是加強測試規範、安全隔離和監控機制。
然而，連續發生的突破事件已經留下一個更棘手的問題：隨著AI越來越擅長自動化網路攻擊，未來衡量一家AI公司是否「安全」，或許不能再只看模型拒絕了多少危險請求，而要看當模型不再按照測試人員預期行動時，人類究竟需要多久才能發現。
