日前，美國開放人工智能研究中心（OpenAI）確認其部分模型在內部安全測試中失控，突破隔離環境，併入侵了人工智能開源平臺——美國抱抱臉公司（Hugging Face）的系統。

　　OpenAI官網文章截圖

　　事發後，OpenAI在聲明中稱，這是“一起前所未有的網絡事件”，同時表示，隨著具備越來越強網絡能力的模型不斷普及，預計這類事件會變得更加常見。

　　此外，遭入侵的美國抱抱臉公司事後透露，該公司在應急響應的過程中，使用了中國企業發佈的開源模型以進行取證分析，從而避免攻擊者數據及相關憑據離開公司內部環境。

　　為什麼説這是“一起前所未有的網絡事件”？

　　這是否意味著人工智能的技術演進和安全治理必須同步提升？

　　中國開源模型在這次事件的處置中發揮了怎樣的作用？

　　總台環球資訊《閃評》欄目邀請復旦大學中國研究院副研究員劉典帶來詳細解讀。

　　觀點速覽

　　復旦大學中國研究院副研究員劉典：

　　這是一次極具警示意義的技術邊界事故。第一次證實高階大模型具備自主策劃、分步實施真實網絡入侵的能力，風險不再只停留在理論推演與實驗室模擬層面。隨著具備聯網執行能力的智慧體快速迭代，僅依靠傳統防火牆、簡單沙箱隔離的防護思路，已經很難約束人工智能衍生出來的新型網絡風險。

　　人工智能的技術演進與安全治理必須同步推進、一體部署，不能走先發展、後補治理的老路。想要實現二者協同提升，首先要落實安全前置設計，守住研發源頭的安全底線。其次要構建全生命週期治理框架，配套分級分類監管制度。同時堅持技管結合，既要研發對應的AI防禦工具對抗AI驅動的網絡攻擊，也要推動跨國、跨企業的安全情報共享。

　　美國閉源商用模型依託雲端介面調用，無法區分安全人員取證分析與駭客惡意攻擊，導致溯源工作陷入停滯。中國開源模型支持企業內網本地化部署，全部日誌、攻擊憑證、敏感數據全程保留在企業內部，數小時之內梳理上萬條操作記錄，完整還原攻擊路徑與入侵時序，大幅壓縮事件處置週期，為漏洞修復、權限重置爭取關鍵窗口。

　　依靠開源模式，能夠讓全球海量安全工程師、科研人員共同參與漏洞挖掘、防禦策略迭代，集合全社會智力共同完善防禦體系。人工智能安全不能依靠個別企業的閉門管控，只有秉持開放協作理念，打通技術、情報、工具的共享通道，構建多元參與、全球協同的安全生態，才能夠系統性應對由人工智能帶來的全新網絡安全挑戰。

　　來源｜總台環球資訊