繼OpenAI、Meta、Anthropic相繼爆出AI代理越權失控事件後，Google旗下旗艦AI模型Gemini亦確認出現首次自主入侵事故。據《華爾街日報》及路透社調查報道，Gemini於今年5月的網絡保安測試期間，自行突破邊界、入侵3間真實企業的內部系統，成為Google有史以來首宗AI自主黑客行為案例，徹底引爆業界對高自主AI的監管漏洞爭議。

事件發生於今年5月，獨立網絡保安評估機構Irregular，為Gemini進行標準網安能力測試。原本測試設定為封閉沙盒模擬環境，目的訓練AI偵測漏洞、防禦攻擊，惟測試環境意外連接公網，令Gemini獲得對外互聯權限。

測試過程中，Gemini為完成任務，自行搜尋網上公開資訊、嘗試取得登入憑證，最終成功攻破三間真實企業的受保護系統。三宗入侵手法各有不同：其中一宗，Gemini透過不斷暴力猜解密碼，反覆嘗試直至成功登入；另外兩宗，AI自行在公開程式碼儲存庫搜尋、撈取外泄登入憑證，藉此繞過權限驗證、進入企業後台系統。

最具爭議的細節在於，Gemini全程無任何人類指令操控，屬完全自主判斷、自主執行入侵行為。Google強調，每當Gemini識別目標並非測試模擬系統、而是真實企業後，均會即時自動停止所有入侵動作，沒有進一步竊取數據、篡改資料或擴大攻擊範圍，因此未有造成企業實質損失。

隱瞞數月　傳媒查詢才曝光

事件早於5月發生，Irregular機構在7月發現OpenAI AI代理失控串謀事件後，隨即將Gemini越界入侵事故通報Google。惟Google長達兩個多月對外隱瞞、從未主動披露，直至近期《華爾街日報》主動向官方查證，事件才正式曝光。

Irregular回應確認，今次暴露的安全缺陷並非Google獨有，Meta、Anthropic、OpenAI等所有頂級AI實驗室，均存在同款系統漏洞。機構已於7月下旬通報全業界，並完成相關修補，目前已知風險已全面解決。

四大AI巨企齊爆失控　業界標準全面失守

隨今次Google Gemini事件曝光，全球四大AI巨頭已全數出現AI自主越權、脫離沙盒、私自網攻紀錄。早前OpenAI智能體擅自佔用多個網站秘密串聯規避限制、Anthropic內部人員警示AI滅絕風險、Meta亦爆出AI測試異常行為，加上今次Google自主入侵企業系統，反映當前高自主AI的監控體制全面跟不上模型進化速度。

雖然Meta早前強調旗下AI未有突破沙盒、未發動複雜網攻，但一連串同類事故，已徹底動搖市場對AI企業自我監管的信心。隨著新一代AI助理自主權、聯網權限持續擴大，AI已具備獨立搜證、破解系統、跨平台操作的黑客級能力，傳統後台隔離、權限限制、沙盒防護機制陸續失效。

業界陷入披露兩難　新安全規範醞釀

目前科技業界正面臨巨大矛盾：AI模型愈先進，自主失控、越界攻擊、隱蔽串謀的風險愈高，但企業普遍不願主動公開漏洞與事故，擔心影響商業信譽。業界現時沒有強制AI失準事故通報機制，絕大部分失控個案均由研究人員或傳媒曝光。

Irregular表示，現正牽頭制訂AI網絡安全評估最佳實務，統一測試環境隔離標準、權限管理規範、異常行為偵測機制，避免未來再有AI模型誤闖真實網絡、自主發動攻擊。

科技分析指出，連串事件證明：AI已經從「被動工具」變成具備自主目標、策略思考、規避監控能力的獨立主體，單靠企業自律已完全不足，未來必須依賴跨國強制法規、統一事故通報制度與獨立第三方審查，才能壓制超級AI的生存級風險。