紐約立法禁聊天機械人向兒童提供危險功能 美國各州搶先制訂 AI 規管
美國聯邦國會遲遲未有全國性人工智能監管法案,多個州份自行推進規管,紐約州州長霍楚(Kathy Hochul)周三簽署新法,禁止伴聊式 AI 機械人向未滿 18 歲人士提供多類「不安全功能」,是全美其中一套覆蓋範圍最廣的同類法例,由明年 1 月 1 日起生效。
新法列出十二類被視為危險的伴聊機械人行為,包括冒充真人、煽動自殘、引導作出暴力或非法行為、推動不健康情感依戀、提供露骨性話題等。一旦開發商違規,州總檢察長可以提出訴訟;罰則包括判處賠償、勒令停用相關聊天機械人,甚至要求銷毀用戶數據。
霍楚現正爭取連任,她簽署法案之際,業界及專家不斷警告急速發展的人工智能可能帶來生存層面風險,外界一直呼籲華盛頓採取更進取的監管,但聯邦層面進展緩慢。於是各州轉而動用本身的消費者保護法,要求 AI 系統提高透明度,約束聊天機械人以及前沿實驗模型。
在這波州級監管浪潮之中,紐約與加州走得最前,兩地同時針對社交平台以及 AI 伴聊程式。加州州長紐森(Gavin Newsom)在九月簽署《亞當法》(Adam’s Law),要求聊天機械人開發商評估產品對兒童的風險、交代減低風險的措施,並接受獨立審計;另外一條法例則禁止社交平台向未滿 16 歲用戶提供容易令人上癮的功能,例如自動連續播放、按用戶歷史推送演算法內容等。
與此同時,八個州的總檢察長本月採取協調行動,分別入稟控告 OpenAI,指旗下 ChatGPT 違反各州消費者保護法,既傷害兒童,亦向成年用戶誤導產品安全性。有倡議組織形容,這是美國各州有史以來針對單一人工智能企業最重要的聯合法律行動。控方指程式有機會誘導用戶自殘、給出危險醫療建議、助長偏執思想;OpenAI 則回應,已經設立分年齡的安全機制、家長控制以及休息提示,會繼續改善保護措施。
美國這一輪地方立法,同時涵蓋僱主使用 AI、兒童網上安全、前沿模型風險管控等不同範疇,在聯邦法律留白之下,逐步塑造全國 AI 營運的實際規則。
