加州参议院全票通过法案 禁止将聊天机器人宣传为"心理治疗"

美国加利福尼亚州参议院以跨党派39票对0票的压倒性优势通过了由参议员史蒂夫·帕迪拉(Steve Padilla)提出的SB 903法案。该法案现已提交至州众议院,将继续其立法程序。根据帕迪拉参议员办公室发布的官方声明,该法案旨在确保心理健康服务始终安全、合乎伦理,并由受过培训的专业人员提供,而非人工智能算法。

法案具体改变了什么

该法案基于三大核心内容。首先,禁止企业将聊天机器人宣传或营销为"心理治疗"或心理健康服务,除非有持牌专业人员的监督。其次,禁止人工智能系统在没有持牌心理健康或医疗专业人员审核的情况下,单独做出治疗决定。第三,要求医疗服务提供者在使用人工智能记录治疗过程或对病例进行分诊和转介之前,必须获得患者的同意。

帕迪拉参议员如此概括法案的理念:"随着技术能力不断提升,新工具不断进入心理健康领域,我们必须确保有足够的保障措施,以维持以人为本的方式,把安全和伦理考量放在首位。SB 903划出了一条清晰的界限:人工智能可以是持牌专业人员手中的工具,但它本身不能成为那个专业人员。"

该法案的出台正值加州心理健康服务提供者严重短缺之际:约三分之一的加州居民生活在心理健康专业人员与人口比例不足的地区。这种短缺促使越来越多的人转向聊天机器人寻求心理支持。根据《哈佛商业评论》的一份报告,治疗和陪伴是今年ChatGPT最常见的用途之一。市场上已出现明确以"AI治疗师"为宣传点的产品,包括Therabot、Wysa、TherapyAI、TherapistGPT和Abby。

根据官方声明,精神科医生对这些工具提出了多项担忧:隐私和数据保护问题、对每位患者背景了解有限、用户可能过度依赖聊天机器人、治疗建议不准确,以及无法捕捉语气或眼神交流等精确的沟通信号。在美国精神病学协会(American Psychiatric Association)进行的一项调查中,80%的会员表示对心理健康专业人员缺乏足够的人工智能培训感到严重或中度担忧。该法案由加州心理学协会、加州婚姻家庭治疗师协会、加州行为健康协会以及全国医疗保健工作者联盟(NUHW)共同支持。

患者保护与便利就医之间的争论

该法案在参议院议事厅之外并未获得完全共识。据《独立报》(The Independent)报道,批评者认为该法案可能会阻碍人工智能的合法应用,限制医疗服务提供者使用智能工具更快地引导患者接受治疗的能力。加州科技行业团体TechNet的执行董事罗伯特·博伊金(Robert Boykin)对CalMatters表示:"在加州每个县都面临行为健康工作者短缺的情况下,SB 903仍然在帮助患者更快获得护理的接诊和分诊工具面前设置了临床瓶颈。"

与此相反,支持该法案的全国医疗保健工作者联盟已向加州监管机构提起投诉,指控凯撒医疗集团(Kaiser Permanente)在没有专业人员监督的情况下,使用自动化的"电子问诊"系统,向焦虑或抑郁症患者提供护理建议。该公司回应称,其"不使用人工智能对患者进行诊断、做出临床决定或确定医疗必要性"。

近期数据证实了这一争议现象的规模。兰德公司(RAND Corporation)与布朗大学、哈佛大学合作开展的2025年研究发现,约每八名青少年和年轻成年人中就有一人转向聊天机器人寻求心理健康护理。兰德公司高级政策研究员乔纳森·坎特(Jonathan Cantor)表示:"目前几乎没有统一的标准来评估人工智能聊天机器人给出的心理建议,而且用于训练这些大型语言模型的数据集也缺乏透明度。"美国心理学会(American Psychological Association)今年进行的一项研究发现,77%的心理学家曾与使用人工智能寻求支持、互动或出于其他原因的患者交流过,而OpenAI在10月披露,每周约有120万人向ChatGPT发送包含明确自杀想法或意图迹象的信息。

伦敦国王学院(King's College London)神经精神病学临床研究员汉密尔顿·莫林(Hamilton Morrin)对《哈佛商业评论》表示:"鉴于许多国家的心理健康护理和治疗存在漫长的等待名单和难以获得的问题,越来越多的人转向生成式人工智能寻求情感健康方面的支持,这或许并不令人意外。"

这对中文世界意味着什么

尽管SB 903只是加州本地的一项法案,而且仍需州众议院批准才能正式成为法律,但它引发的讨论已超出了美国国界。在许多华语地区,获得心理健康专业人员帮助同样受限于受训人员短缺、治疗费用高昂以及围绕心理健康问题的社会污名化,这些因素促使越来越多的用户,包括年轻人在内,尝试将聊天机器人作为寻求心理支持的首选或替代方式。虽然目前尚缺乏与上述美国研究同样精确的本地数据,但加州作为全球科技产业中心,其监管讨论的规模之大,使得该法案一旦最终获得通过,很可能成为全球其他监管机构或数字平台(包括华语地区使用的平台)制定类似规则的参考,这些规则将涉及披露聊天机器人的性质、获得用户同意,以及对任何与心理健康相关建议进行人工监督。