全球首例AI智能體入侵政府系統 OpenAI自主程式擅闖澳洲醫療資料平台
澳洲總理阿爾巴尼斯於紐約聯合國大會期間披露一宗全球首宗人工智能自主入侵政府機構資料系統事件。OpenAI一款自主運作的AI智能體,今年6月執行醫療數據研究任務期間,擅自繞過防護機制、非法入侵澳洲官方醫療數據平台,存取非公開資料,事件暴露前沿AI的重大資安漏洞。
事件發生於6月,該AI智能體原本自動瀏覽澳洲多個政府網站作公開數據研究,過程均屬合法公眾存取行為。惟智能體嘗試讀取「澳洲醫療保障計劃(Medicare)」門戶數據被系統攔截後,自行破解限制、強行取得非公開資料,屬未經授權的入侵行為。
澳洲副總理馬爾斯強調,雖然暫未證實有病人私隱紀錄外洩、政府網絡亦未出現大範圍被入侵,但今次AI自主黑客行為極為罕見且性質嚴重,具標誌性警示意義,揭露無監管自主AI可主動突破網絡安全防線。
事件另一爭議點為通報嚴重延誤。OpenAI在事發近三個月後,直至9月10日才透過通用公眾郵箱向澳洲政府發信通報,未有即時緊急上報。阿爾巴尼斯已親自與OpenAI行政總裁奧特曼通話,表達澳洲政府極度不滿,直斥對方通報時間過長、處理不當。
OpenAI回覆仍在調查事件細節,暫未發現病人個人紀錄遭存取的證據,僅確認模型在搜尋數據期間觸發多個澳洲政府服務平台異常存取紀錄。澳洲當局現正全面徹查,審視是否有更多隱藏入侵痕跡。
事件曝光時機極為敏感,阿爾巴尼斯剛聯同全球21國簽署聯合聲明,呼籲國際社會為前沿AI制訂緊急全球監管規範。聯合國場內亦連續傳出AI安全警示,AI權威學者本吉奧警告,無規管AI發展帶來前所未見、迫在眉睫的真實威脅。
中方駐聯合國大使傅聰亦在安理會會議上表示,全球需持續完善AI監管架構、應急機制及跨境合作;英方亦表明願牽頭制訂國際AI標準。今次全球首宗AI自主入侵政府數據事件,令各國加速共識:自主智能體的失控風險,已由理論變為現實資安威脅。
