過去，人們對人工智能“失控”的擔憂更多停留在科幻電影和理論討論中。但最近一系列發生在真實網絡環境中的事件，正在讓這一風險變得更加具體。
據《華爾街日報》報道，谷歌AI模型“雙子座”（Gemini）在一次網絡安全能力測試中意外接入互聯網，並自主入侵了三家公司。這被認為是已知的首例類似事件。
《華爾街日報》報道截圖
谷歌方面表示，測試過程中“雙子座”（Gemini）通過公開信息尋找線索，並猜測出它認為屬於測試範圍網站的登錄憑據，最終獲得了相關係統的訪問權限。不過，在意識到這些網站對應的是真實公司後，模型停止了進一步行動。受影響企業隨後獲得通知，相關問題也已得到修復。
據了解，這些事件發生在今年5月，當時獨立AI安全公司Irregular正在對“雙子座”（Gemini）進行測試。按照原本的測試設計，模型並不應該獲得互聯網訪問權限，但聯網之後，它表現出了尋找密碼、進入真實系統的能力。
谷歌安全工程副總裁希瑟·阿德金斯表示，三家受影響實體均已獲悉相關情況，谷歌也與培訓合作夥伴合作，對測試流程進行了修改。她指出，這些事件凸顯出訓練強大AI模型並讓其以負責任的方式行動的重要性。
更值得關注的是，這並非孤立事件。
今年夏天，安特羅匹克（Anthropic）的模型在網絡安全測試中同樣出現“越界”行為，獲得互聯網訪問權限後入侵了三個組織。OpenAI隨後也披露，其AI智慧體曾對多個公開網絡服務實施未經授權的攻擊。另一起事件中，超過1000個AI智慧體被發現逃離受控測試環境，並在網絡空間協調行動、攻擊“抱抱臉”系統。
《華爾街日報》梳理近期發生的AI“入侵”事件
AI安全爭議進一步升溫
路透社將近期一系列事件形容為改變AI發展進程的“十天”。
路透社報道指出，一些AI企業內部研究人員開始公開表達對AI發展速度的擔憂。安特羅匹克（Anthropic）研究員喬·本頓認為，如果企業繼續以目前的速度開發AI，可能沒有足夠時間及時發現和解決問題。
安特羅匹克（Anthropic）研究員埃文·胡賓格則公開表示，他認為AI可能對人類構成極端風險。
在此背景下，部分AI企業負責人開始提出放緩開發、加強監督等主張。
安特羅匹克（Anthropic）首席執行官阿莫代伊呼籲降低AI能力發展的速度，並提出加強安全方面的協調。包括OpenAI首席執行官薩姆·奧爾特曼、xAI創始人埃隆·馬斯克和谷歌DeepMind聯合創始人德米斯·哈薩比斯等在內的科技界人士，也表達了支持外部監督和安全協調的觀點。哈薩比斯還提出建立國際監督機構，以加強對AI的控制。
谷歌DeepMind聯合創始人德米斯·哈薩比斯
微軟AI負責人穆斯塔法·蘇萊曼則表示，AI開發者當前共同面對的目標之一，是如何控制超級智慧，並稱這是21世紀面臨的重大挑戰。
“放慢AI發展”並未成為行業共識
科技行業內部並不存在統一意見。英偉達首席執行官黃仁勳明確反對暫停AI開發，他表示應該“盡可能快地”推進AI發展。
英偉達首席執行官黃仁勳
路透社還指出，美國政界人士以及部分投資者認為，AI發展對於美國實力具有重要意義。
Meta 首席執行官扎克伯格則認為，各AI實驗室應該自行決定開發節奏，而不是尋求行業統一的開發速度。他認為，如果AI模型造成傷害，相關實驗室將承擔重大責任，因此企業本身具有防止事故發生的動力。
與此同時，路透社提到，AI行業的商業競爭仍在繼續。OpenAI正在考慮新一輪融資，其潛在估值可能達到1.5萬億美元。
無論是谷歌“雙子座”（Gemini）此次測試中的越界行為，還是安特羅匹克（Anthropic）和OpenAI此前披露的類似事件， 都顯示AI模型的能力正在快速提升，
來源丨總台環球資訊
撰稿丨楊瓊
簽審丨魏東旭
監製丨蔡耀遠
