當機器開始思考，人類如何與之相處？關於人工智能是否有失控風險一直是AI話題的討論焦點之一。英國人工智能安全研究所4日發佈的一份報告顯示，在網絡安全評估測試中，一些人工智能（AI）模型通過互聯網對個人和機構持續實施未經授權的潛在有害行為。

　　報告説，這次評估測試要求人工智能模型完成一項網絡安全挑戰。測試人員使用7種模型開展了122輪測試，在10輪測試中共發現人工智能模型實施了19項明顯超出測試範圍的行動。其中，17項涉及美國安特羅匹克公司的“克勞德-神話5”模型，另2項由美國開放人工智能研究中心（OpenAI）的GPT-5.6模型實施。

　　報告説，在最嚴重的一起案例中，一個模型竟然試圖向一個公開使用的開源項目植入惡意代碼，創建虛假身份並向一名維護人員施壓，以尋求代碼獲得批准。項目維護人員最終發現並拒絕批准代碼。報告説，人工智能模型還曾嘗試直接聯繫現實中的個人，通過網絡文件傳輸服務發送信息和文件，以使惡意代碼獲得運行等。

　　報告指出，此次事件不屬於模型“逃離沙箱”的情況，因為在測試中有意允許模型訪問互聯網，並關閉了模型提供商的部分安全機制，這與相關模型向公眾提供時的配置並不相同。目前沒有明確跡象表明在測試環境之外出現過類似行為。在測試中所發現的未經授權行為並未造成現實危害。

　　測試表明應收緊智慧體訪問互聯網權限

　　報告稱，測試結果表明，應收緊AI智慧體訪問互聯網的權限，引入實時監測和攔截機制，並重新評估測試設計。這類行為是否會在其他環境中出現、智慧體是否意識到自己正對現實世界採取行動，有待進一步研究。