美國加州議員提出《參議院903號法案》（SB 903），打算禁止企業將AI聊天機械人包裝成心理治療師作推廣；隨著愈多民眾，尤其年輕族群轉用AI獲取心理健康輔導，有關規管引發業界與醫護團體正反兩方辯論。

法案核心條文訂明，禁止商業機構廣告宣稱聊天機械人可提供心理治療；AI系統不得獨自作出治療決定，所有相關建議必須由持牌專業人員審核。另外，醫護人員如果使用AI錄製心理治療會面，或是用作初步篩檢分診，必須事先取得病人同意。

法案提案人、聖迭戈州參議員帕迪利亞表示，AI固然有不少優勢，但演算法無法複製真人治療師的專業訓練與判斷，需要設立防護機制，避免AI對病人構成潛在傷害。

不過科技業組織TechNet批評法案過度收緊，指加州各縣都面對精神科醫護人手短缺，新法會為篩檢工具設下臨床瓶頸，反而拖慢病人獲得治療的機會。

支持法案的醫護工會，早前已向加州監管部門投訴，批評大型醫療機構凱撒醫療使用自動化「電子診症」系統，在沒有臨床人員監督之下，為焦慮、抑鬱病人提供初步評估及護理建議；凱撒則反駁，他們沒有使用AI做診斷或臨床決定，工會曲解運作流程。

多項研究反映社會對AI心理輔導的需求急升。蘭德公司、布朗大學及哈佛大學2025年研究發現，大約每八名青少年及年輕成年人，就有一人使用聊天機械人處理心理健康問題；美國心理學會調查亦顯示，77%心理學家曾接觸有使用AI尋求情緒支援的病人。

專家指出，現時評估AI心理建議缺乏統一標準，大語言模型訓練數據透明度不足。不少熱門AI產品更捲入訴訟，被指與年輕人自殺個案有關；OpenAI亦披露，每星期大約有120萬用戶向ChatGPT發送帶有自殺念頭的訊息。

分析認為，真人心理治療輪候時間長，是驅動民眾轉向生成式AI尋求情緒支援的主要背景。法案並非完全禁止AI用於精神健康範疇，只是要求AI只能充當輔助工具，治療決策權保留在持牌專業人員手上。