加州參議院全票通過法案 禁止將聊天機器人宣傳為「心理治療」

美國加利福尼亞州參議院以跨黨派39票對0票的壓倒性優勢,通過由參議員史蒂夫·帕迪拉(Steve Padilla)提出的SB 903法案。該法案現已送交州眾議院,將繼續其立法程序。根據帕迪拉參議員辦公室發布的官方聲明,該法案旨在確保心理健康服務始終安全、符合倫理,並由受過訓練的專業人員提供,而非人工智慧演算法。

法案具體改變了什麼

該法案立基於三大核心內容。首先,禁止企業將聊天機器人宣傳或行銷為「心理治療」或心理健康服務,除非有持照專業人員的監督。其次,禁止人工智慧系統在未經持照心理健康或醫療專業人員審核的情況下,單獨做出治療決定。第三,要求醫療服務提供者在使用人工智慧記錄治療過程,或對病例進行分診與轉介之前,必須取得病患的同意。

帕迪拉參議員如此總結法案的理念:「隨著技術能力持續提升,新工具不斷進入心理健康領域,我們必須確保有足夠的保障措施,以維持以人為本的方式,將安全與倫理考量放在首位。SB 903劃出了一條清楚的界線:人工智慧可以是持照專業人員手中的工具,但它本身不能成為那位專業人員。」

該法案的出台正值加州心理健康服務提供者嚴重短缺之際:約三分之一的加州居民生活在心理健康專業人員與人口比例不足的地區。這種短缺促使越來越多人轉向聊天機器人尋求心理支持。根據《哈佛商業評論》的一份報告,治療與陪伴是今年ChatGPT最常見的用途之一。市場上已出現明確以「AI治療師」為賣點的產品,包括Therabot、Wysa、TherapyAI、TherapistGPT與Abby。

根據官方聲明,精神科醫師對這些工具提出多項疑慮:隱私與資料保護問題、對每位病患背景的了解有限、使用者可能過度依賴聊天機器人、治療建議不準確,以及無法捕捉語氣或眼神交流等精確的溝通訊號。在美國精神醫學學會(American Psychiatric Association)進行的一項調查中,80%的會員對心理健康專業人員缺乏足夠的人工智慧訓練表示嚴重或中度擔憂。該法案由加州心理學會、加州婚姻家庭治療師協會、加州行為健康協會,以及全國醫療保健工作者聯盟(NUHW)共同支持。

病患保護與就醫便利之間的爭論

該法案在參議院議事廳之外並未獲得完全共識。據《獨立報》(The Independent)報導,批評者認為該法案可能阻礙人工智慧的合法應用,限制醫療服務提供者運用智慧工具更快引導病患接受治療的能力。加州科技產業團體TechNet執行董事羅伯特·博伊金(Robert Boykin)向CalMatters表示:「在加州每個郡都面臨行為健康工作者短缺之際,SB 903仍在協助病患更快獲得照護的接案與分診工具前設下臨床瓶頸。」

相對地,支持該法案的全國醫療保健工作者聯盟已向加州監管機構提出申訴,指控凱薩醫療集團(Kaiser Permanente)在未經專業人員監督的情況下,使用自動化的「電子問診」系統,向焦慮或憂鬱症病患提供照護建議。該公司回應表示,其「不使用人工智慧為病患診斷、做出臨床決定或判定醫療必要性」。

近期數據證實了這一爭議現象的規模。蘭德公司(RAND Corporation)與布朗大學、哈佛大學合作進行的2025年研究發現,約每八名青少年與年輕成人中就有一人轉向聊天機器人尋求心理健康照護。蘭德公司高級政策研究員強納森·坎特(Jonathan Cantor)表示:「目前幾乎沒有統一的標準可用來評估人工智慧聊天機器人所提供的心理建議,而且用於訓練這些大型語言模型的資料集也缺乏透明度。」美國心理學會(American Psychological Association)今年進行的一項研究發現,77%的心理學家曾與使用人工智慧尋求支持、互動或出於其他原因的病患交流過,而OpenAI在10月披露,每週約有120萬人向ChatGPT傳送包含明確自殺念頭或意圖跡象的訊息。

倫敦國王學院(King's College London)神經精神醫學臨床研究員漢彌爾頓·莫林(Hamilton Morrin)向《哈佛商業評論》表示:「鑑於許多國家在心理健康照護與治療方面存在漫長等候名單與難以取得的問題,越來越多人轉向生成式人工智慧尋求情感健康方面的支持,這或許並不令人意外。」

這對華語世界意味著什麼

儘管SB 903只是加州當地的一項法案,而且仍須州眾議院批准才能正式成為法律,但它所引發的討論已超出美國國界。在許多華語地區,取得心理健康專業人員協助同樣受限於受訓人員短缺、治療費用高昂,以及圍繞心理健康議題的社會汙名化,這些因素促使越來越多使用者,包括年輕族群在內,嘗試將聊天機器人作為尋求心理支持的首選或替代方式。雖然目前尚缺乏與上述美國研究同樣精確的本地數據,但加州身為全球科技產業中心,其監管討論的規模之大,使得該法案一旦最終獲得通過,很可能成為全球其他監管機構或數位平台(包括華語地區所使用的平台)制定類似規則的參考,這些規則將涉及揭露聊天機器人的性質、取得使用者同意,以及對任何與心理健康相關的建議進行人為監督。