カリフォルニア州上院、チャットボットを「心理療法」と称して宣伝することを禁じる法案を全会一致で可決

米カリフォルニア州上院は、超党派の賛成39票、反対0票という圧倒的多数でスティーブ・パディラ上院議員が提出したSB 903法案を可決した。同法案は今後、州下院に送られ、立法手続きを継続する。パディラ議員事務所の公式声明によれば、同法案の目的は、メンタルヘルスサービスがAIアルゴリズムではなく、訓練を受けた専門家によって、安全かつ倫理的に提供され続けることを保証することにある。

法案が具体的に何を変えるのか

同法案は3つの主要な柱に基づいている。第一に、免許を持つ専門家の監督がない限り、企業がチャットボットを「心理療法」やメンタルヘルスサービスとして宣伝・販売することを禁じる。第二に、免許を持つメンタルヘルスまたは医療の専門家による審査を経ずに、AIシステムが単独で治療上の決定を下すことを防ぐ。第三に、医療提供者がAIを用いて治療セッションを記録したり、症例のトリアージや振り分けを行ったりする前に、患者の同意を得ることを義務付ける。

パディラ議員は法案の理念を次のように要約した。「技術力が伸び続け、新しいツールがメンタルヘルスの分野に参入する中、私たちは人間中心のアプローチを守るために十分な保護策を確保し、安全性と倫理的配慮を最優先にしなければなりません。SB 903は明確な一線を引きます。AIは免許を持つ専門家の手にある道具にはなり得ますが、専門家そのものにはなり得ないのです。」

同法案は、州内でメンタルヘルスの専門家が実際に不足している状況を背景に提出された。カリフォルニア州民のおよそ3分の1が、人口に対するメンタルヘルス専門家の比率が不十分な地域に暮らしている。この不足により、心理的サポートを求めてチャットボットに頼る人が増えている。『ハーバード・ビジネス・レビュー』のレポートによれば、今年、セラピーと話し相手はChatGPTの最も一般的な用途の一つとなっている。市場には、「AIセラピスト」として明確に売り出される製品が登場しており、Therabot、Wysa、TherapyAI、TherapistGPT、Abbyなどが挙げられる。

公式声明によれば、精神科医はこれらのツールについて複数の懸念を指摘している。プライバシーとデータ保護の問題、患者一人ひとりの背景に対する理解の限界、利用者がチャットボットに過度に依存するリスク、不正確な治療上の助言、そして声のトーンやアイコンタクトといった正確なコミュニケーションの手がかりを捉えられないことなどである。米国精神医学会(American Psychiatric Association)の調査では、会員の80%が、メンタルヘルスの専門家がAIに関する十分な訓練を受けていないことについて、重大または中程度の懸念を示した。同法案は、カリフォルニア心理学会、カリフォルニア夫婦家族療法士協会、カリフォルニア行動保健協会、および全米医療従事者組合(NUHW)によって共同で支持されている。

患者保護とケアへのアクセス円滑化をめぐる論争

上院議場の外では、同法案は完全な合意を得ているわけではない。『ジ・インディペンデント』紙によれば、批判者は同法案がAIの正当な利用を妨げ、医療提供者が患者をより早く治療につなげるためにスマートなツールを活用する能力を制限しかねないと主張している。カリフォルニアのテクノロジー業界団体テックネット(TechNet)の専務理事ロバート・ボイキン氏はCalMattersに対し、次のように述べた。「カリフォルニアのすべての郡が行動保健分野の人材不足に苦しんでいる時に、SB 903は、患者がより早くケアにアクセスできるよう支援する受付・トリアージツールの前に、依然として臨床上のボトルネックを設けている。」

一方、同法案を支持する全米医療従事者組合は、カイザー・パーマネンテ(Kaiser Permanente)医療システムが専門家の監督なしに自動化された「電子診察」システムを使用し、不安障害やうつ病の患者にケアの推奨を行っていると主張し、カリフォルニア州の規制当局に苦情を申し立てた。同社はこれに対し、「患者の診断、臨床上の意思決定、または医療上の必要性の判断にAIを使用していない」と回答した。

最近のデータは、この論争の的となっている現象の広がりを裏付けている。RANDコーポレーションがブラウン大学およびハーバード大学と共同で実施した2025年の調査では、10代および若年成人のおよそ8人に1人が、メンタルヘルスケアを求めてチャットボットを利用していることが明らかになった。RANDの上級政策研究員ジョナサン・カンター氏は、「AIチャットボットが提供する心理的助言を評価するための統一された基準はほとんど存在せず、これらの大規模言語モデルの訓練に使用されたデータセットについての透明性も限られています」と述べた。米国心理学会(American Psychological Association)が今年実施した調査では、心理学者の77%が、サポートや交流、その他の理由でAIを利用した患者と話したことがあると回答した。一方、OpenAIは10月、自殺念慮や意図を示す明確な兆候を含むメッセージを毎週約120万人がChatGPTに送信していることを明らかにした。

ロンドン大学キングス・カレッジ(King's College London)の神経精神医学の臨床研究員ハミルトン・モーリン氏は『ハーバード・ビジネス・レビュー』に対し、次のように語った。「多くの国でメンタルヘルスケアやセラピーへのアクセスが難しく、待機リストが長いことを考えれば、情緒的な健康のサポートを求めて生成AIに頼る人が増えているのは、おそらく驚くべきことではないでしょう。」

これが日本にとって意味すること

SB 903はカリフォルニア州のみを対象とする地方法案であり、法律として成立するには州下院の承認をなお必要とするが、この議論は米国の国境を越えた広がりを持つ。日本においても、メンタルヘルスの専門家へのアクセスは、訓練を受けた人材の不足、治療費の高さ、そしてメンタルヘルスに対する社会的スティグマによって依然として限られており、こうした要因が、若者を含む利用者を、心理的サポートの第一の、あるいは代替的な手段としてチャットボットを試すよう後押ししている。上記のような米国の調査ほど精緻な国内データはまだ存在しないものの、世界的なテクノロジー産業の中心地であるカリフォルニアでのこの規制論争の広がりを踏まえると、同法案が最終的に成立した場合、世界各地の規制当局やデジタルプラットフォーム、日本で利用されているものも含め、チャットボットの性質の開示、利用者の同意、メンタルヘルスに関するあらゆる助言に対する人間による監督について、同様のルールを策定する際の参考事例となる可能性が高い。