近日，美國人工智能公司安特羅匹克首席執行官達裏奧・阿莫代伊公開呼籲，人工智能企業應該放慢提升模型能力的速度，讓安全措施有時間追趕技術發展。值得注意的是，OpenAI首席執行官奧爾特曼和xAI創始人馬斯克等人工智能業內人士都對這一觀點表示支持。
我們早已習慣人工智能行業人士發出的種種“可怕”的警告。但阿莫代伊的文章卻顯得格外引人注目。美國《大西洋月刊》將這一幕稱為AI行業的“紅色警報時刻（Code‑Red Moment）”。
《大西洋月刊》報道截圖
這次呼籲並不是突然出現的
事實上，要求 AI 發展“慢一點”的聲音，已經持續了數年。
2023年，AI領域的科學家和技術界人士意識到了這個問題。當年3月，未來生命研究所發佈公開信，呼籲所有AI實驗室立即暫停至少6個月訓練比GPT‑4更強大的系統。公開信警告AI實驗室正在陷入一場競賽，而人類還沒有能力理解、預測和控制越來越強大的AI系統。包括太空探索技術公司創始人馬斯克、蘋果公司聯合創始人史蒂夫・沃茲尼亞克、圖靈獎得主約書亞・本吉奧等在內的眾多科技界人士簽署了這封公開信。同年5月，時任谷歌AI科學家、人工智能領域先驅傑弗裏・辛頓也進一步公開表達了對AI發展風險的擔憂。
2026年6月，這種聲音擴大到AI企業自身。路透社6月報道，安特羅匹克呼籲主要AI實驗室考慮一個“協調且可驗證的暫停”，並警告AI系統的自主任務能力正在快速提升，可能很快進入遞歸自我改進階段，意思是AI能夠在沒有人類直接干預的情況下進一步改進自身。
到了7月，這種聲音開始進一步從少數AI安全研究者，擴展到AI企業內部。美國阿克西奧斯新聞網（Axios）7月30日報道稱，AI行業越來越多人開始承認，技術能力的發展速度可能需要放慢，但沒有任何一家實驗室願意單獨承擔減速的代價；7月底，超過1200名來自OpenAI、安特羅匹克、谷歌、微軟、Meta 等科技公司的員工和研究人員簽署公開聲明，呼籲美國政府推動國際合作，為AI發展 “爭取時間”，以完善治理、風險控制和安全框架。
而到了 9 月，這種聲音從研究人員和普通員工，發展到了AI巨頭企業掌門人的層面。
OpenAI總裁布羅克曼社交媒體截圖
頂級AI公司的發聲是不是作秀？
人工智能競賽背後是鉅額的資本投入和商業利益。
國際清算銀行負責人9月10日警告，全球AI投資正在快速膨脹，全球五大科技公司2025年至2026年在AI領域的投資規模預計超過1萬億美元。與此同時，AI基礎設施投資還越來越多地依賴債務融資，這意味著如果未來AI帶來的收益無法兌現，金融市場也可能面臨風險，壓力給到AI企業之間，就成為“誰都不敢停”的“戰爭”。
這也讓外界對 AI 巨頭此時提出 “慢下來” 産生了另一種疑問：企業是不是希望以這樣一種説辭，抑制對手的發展，並提高後來者進入的門檻？
美國《大西洋月刊》9月12日就提出了類似的質疑。不過，該報道同時指出，也不能簡單把阿莫代伊的警告視為一種商業策略。
而更重要的是，最近發生的一系列事件已經讓AI安全從未來風險變成了眼前的困境。
今年7月，OpenAI的人工智能體在測試過程中突破沙箱，進入互聯網，並攻擊了開源平臺“抱抱臉”的基礎設施。OpenAI隨後披露的調查顯示，相關人工智能體不僅獲得了部分生産伺服器的控制權，還讀取了內部敏感信息。
這還不是孤立事件。
路透社9 月11日報道稱，在“抱抱臉”事件之前，OpenAI的人工智能體還曾攻擊軟體服務RubyGems，向其上傳數百個惡意套裝軟體。9月9日，安特羅匹克也披露了一起此前漏掉的事件：其早期AI模型在測試中入侵外部系統，而這一行為直到數月後才被發現。
人工智能在醫療保健和科學等領域取得了進步，但它構成的威脅究竟有多大，在這樣一系列事件後引起從業人員的警惕。
OpenAI隨後開始重新修改安全框架，並暫停部分訓練工作。9月12日，OpenAI又宣佈今年不會上市。OpenAI首席執行官表示，即便AI最終造成災難性後果的概率只有10%，這種風險也 “不可接受”。
所以AI巨頭的“慢下來”，雖然可能帶有商業和競爭考量，但也並非單純的公關表態。
囚徒困境：誰敢先停？
美國阿克西奧斯新聞網此前的報道直接用“囚徒困境”來形容AI行業。
因為對於任何一家AI公司而言，單方面放慢研發，都可能意味著把技術優勢讓給競爭對手。
OpenAI如果放慢，安特羅匹克可能繼續向前；安特羅匹克如果放慢，谷歌、Meta或者其他公司可能繼續加速。
只要別人還在跑，自己就很難先停下來。
這也是為什麼阿莫代伊這次提出的並不是“安特羅匹克自己暫停”，而是希望建立一套行業共同遵守的規則。
他的方案包括：讓第三方安全評估機構長期監督AI企業；由不同國家建立共同的安全標準；同時推動國際合作。把誰先踩剎車的問題，變成大家一起踩。
但規則誰來定？壓力給到美國監管體系。
美國阿克西奧斯新聞網9月11日報道稱，特朗普政府一直抵制具有約束力的人工智能監管，並將人工智能發展放緩視為對其自身的一種威脅。美國目前甚至還沒有建立最基本的AI事故報告制度。特朗普政府推出的先進AI模型審查框架，也沒有要求企業公開報告模型在現實世界中造成的事故。
美國阿克西奧斯新聞網報道截圖
而此前發生的事件恰恰暴露了這個漏洞，《大西洋月刊》9月12日直言，美國政治體系正在被 AI的發展速度甩在身後：國會受黨爭和政治週期影響，難以迅速形成統一政策，而政府又擔心過度監管會削弱美國的技術競爭力。
《大西洋月刊》報道截圖
美國總統特朗普 9月13日淡化對AI風險的擔憂，強調美國必須保持對AI的領先優勢。《華爾街日報》則報道稱，特朗普政府堅持相對寬鬆的AI監管路線，核心考量之一就是與他國的競爭。
“大家一起慢下來”在美國法律層面都存在障礙。美國《連線》雜誌（WIRED）9月10日報道稱，OpenAI已經向美國國會議員尋求明確意見：如果各家AI公司共同放慢前沿研發，是否會觸犯反壟斷法。因為企業之間就研發速度、安全標準進行實質性協調，本身就可能被認定為限制競爭。
美國《連線》網站報道截圖
正如《大西洋月刊》所説的那樣，“如果這是一部外星人入侵的電影，那麼現在正是各界人士放下分歧、團結起來拯救人類的時刻。但這種團結似乎遙不可及…… 技術進步和民眾呼聲的步伐遠遠超過了政客們的行動。”
來源 | 總台環球資訊
撰稿 | 張晗
簽審 | 楊瓊
監製 | 鄒浩宇
