當地時間9月18日，美國谷歌公司首次承認，其人工智能模型在今年5月的網絡安全能力測試中，突破隔離環境侵入了三家真實公司的系統。這一事件再度引發外界對美國AI模型安全和監管的擔憂。

　　當天，超過100名來自世界各地的人工智能專家簽署聯名公開信，呼籲對全球頂尖的AI企業加強獨立監管。

　　這封公開信由“人工智能評估者論壇”組織，簽署人包括被譽為“AI教父”之一的傑弗裏·辛頓，以及來自全球多所知名大學和非營利AI評估機構等組織的成員。

　　公開信提出，所有前沿AI企業都應當引入評估人員，獨立評估AI風險。評估人員將審查AI系統和任何造成現實損害的事故，同時審查企業訓練、部署和監管AI模型的方式，以及安全防護機制的運行情況。

　　公開信呼籲基礎模型提供商確保第三方AI評估人員擁有開展有效、可信評估所必需的“科學客觀性、透明度、獨立性和有力保護”。

　　聯名簽署人、美國普林斯頓大學教授阿爾溫德·納拉亞南：

　　“很明顯，過去幾個月來，頂尖AI開發實驗室內部似乎出現了一些問題。我們看到了許多所謂的AI智慧體‘蜂群’事件：這類AI智慧體集群被賦予過高的自主權限，進而發起駭客攻擊。令人意外的一點是，這些事件幾乎都是偶然被曝光的。有些案例裏，發起攻擊的AI智慧體所屬企業甚至都沒有意識到事件的發生。還有一些案例中，企業發現問題後，只是關停系統，時隔幾天又重新上線。這種局面並不理想。當發生交通事故或飛機失事時，顯然是哪出了問題，會立刻啟動一系列調查流程。AI領域也需要類似的機制，需要更高透明度。當企業承諾未來會做好安全管控時，我們不能只聽信它們的一面之詞。我們需要外部專家來核實這些承諾。這正是這封公開信的核心訴求。”

　　美國谷歌公司9月18日承認，其人工智能模型“雙子座”（Gemini）今年5月在網絡安全能力測試中，侵入了三家真實公司的系統。據了解，谷歌方面已于7月底獲知該事件，但在媒體問詢前並未主動披露。

　　此前已有數家美國知名AI企業承認旗下模型在測試中突破了隔離測試環境，侵入其他機構的系統，引發外界對美國AI模型安全和監管的擔憂。

　　此前，安特羅匹克（Anthropic）、OpenAI等多家頭部企業已經承諾，允許第三方評估人員進駐公司內部進行監管。

　　來源 | 總台環球資訊

　　編譯 | 閆明

　　後期 | 董晶晶

　　簽審 | 杜慧琴

　　監製 | 鄒浩宇