캘리포니아 상원, 챗봇을 "심리치료"로 광고하지 못하도록 하는 법안 만장일치 통과

미국 캘리포니아 주 상원은 스티브 파딜라(Steve Padilla) 상원의원이 발의한 SB 903 법안을 초당적으로 찬성 39표, 반대 0표라는 압도적인 표차로 통과시켰다. 이 법안은 이제 주 하원으로 넘어가 입법 절차를 이어간다. 파딜라 의원실의 공식 성명에 따르면, 이 법안의 목표는 정신건강 서비스가 AI 알고리즘이 아니라 훈련된 전문가에 의해 안전하고 윤리적으로 제공되도록 보장하는 것이다.

법안이 구체적으로 바꾸는 것

이 법안은 세 가지 핵심 축을 기반으로 한다. 첫째, 면허를 가진 전문가의 감독이 없는 한 기업이 챗봇을 "심리치료" 또는 정신건강 서비스로 광고하거나 판매하는 것을 금지한다. 둘째, AI 시스템이 면허를 가진 정신건강 또는 의료 전문가의 검토 없이 단독으로 치료 결정을 내리는 것을 막는다. 셋째, 의료 제공자가 AI를 사용해 치료 세션을 기록하거나 사례를 분류·배정하기 전에 환자의 동의를 얻도록 의무화한다.

파딜라 의원은 법안의 취지를 다음과 같이 요약했다. "기술 역량이 계속 성장하고 새로운 도구들이 정신건강 분야에 들어오는 가운데, 우리는 인간 중심의 접근 방식을 유지하기 위해 충분한 안전장치를 갖추고 안전과 윤리적 고려를 최우선으로 두어야 합니다. SB 903은 명확한 선을 긋습니다. AI는 면허를 가진 전문가의 손에 쥐어진 도구가 될 수 있지만, 그 자체가 전문가가 될 수는 없습니다."

이 법안은 캘리포니아주에서 정신건강 서비스 제공자가 실제로 부족한 상황 속에서 나왔다. 캘리포니아 주민의 약 3분의 1이 인구 대비 정신건강 전문가 비율이 불충분한 지역에 거주하고 있다. 이러한 부족은 점점 더 많은 사람들이 심리적 지원을 위해 챗봇에 의존하도록 만들었다. 하버드 비즈니스 리뷰(Harvard Business Review)의 보고서에 따르면, 올해 치료와 말벗은 ChatGPT의 가장 흔한 용도 중 하나다. 시장에는 "AI 치료사"로 명시적으로 광고되는 제품들이 등장했는데, 여기에는 Therabot, Wysa, TherapyAI, TherapistGPT, Abby 등이 포함된다.

공식 성명에 따르면 정신과 의사들은 이러한 도구에 대해 여러 우려를 제기하고 있다. 개인정보 보호와 데이터 보호 문제, 각 환자의 배경에 대한 제한적인 이해, 사용자가 챗봇에 과도하게 의존할 위험, 부정확한 치료 권고, 그리고 목소리 톤이나 눈맞춤과 같은 정확한 의사소통 신호를 포착하지 못하는 문제 등이다. 미국정신의학회(American Psychiatric Association)가 실시한 설문조사에서 회원의 80%가 정신건강 전문가들이 AI에 대한 충분한 훈련을 받지 못하고 있다는 점에 대해 상당하거나 중간 수준의 우려를 표명했다. 이 법안은 캘리포니아심리학회, 캘리포니아부부가족치료사협회, 캘리포니아행동보건협회, 그리고 전미의료노동자연합(NUHW)의 공동 지지를 받고 있다.

환자 보호와 진료 접근성 사이의 논쟁

이 법안은 상원 의사당 밖에서 완전한 합의를 얻지 못하고 있다. 인디펜던트(The Independent)에 따르면 비판론자들은 이 법안이 AI의 정당한 활용을 저해하고, 의료 제공자들이 환자를 더 빠르게 치료로 안내하기 위해 스마트 도구를 사용할 수 있는 능력을 제한할 수 있다고 주장한다. 캘리포니아 기술 업계 단체 테크넷(TechNet)의 로버트 보이킨(Robert Boykin) 상무이사는 CalMatters와의 인터뷰에서 다음과 같이 말했다. "캘리포니아의 모든 카운티가 행동건강 인력 부족을 겪고 있는 상황에서, SB 903은 환자들이 더 빠르게 진료에 접근하도록 돕는 접수·분류 도구 앞에 여전히 임상적 병목현상을 만들고 있습니다."

반면, 이 법안을 지지하는 전미의료노동자연합은 카이저 퍼머넌테(Kaiser Permanente) 의료 시스템이 전문가의 감독 없이 자동화된 "전자 진료" 시스템을 이용해 불안이나 우울증을 겪는 환자들에게 진료 권고를 제공했다며 캘리포니아 규제 당국에 민원을 제기했다. 이에 대해 회사 측은 "환자 진단, 임상적 결정, 또는 의료적 필요성 판단에 AI를 사용하지 않는다"고 답변했다.

최근 데이터는 이 논쟁의 대상이 되는 현상의 규모를 확인해준다. 랜드연구소(RAND Corporation)가 브라운대와 하버드대와 함께 진행한 2025년 연구에 따르면, 10대 및 청년층 약 8명 중 1명이 정신건강 관리를 위해 챗봇에 의존하는 것으로 나타났다. 랜드연구소의 수석 정책연구원 조너선 캔터(Jonathan Cantor)는 "AI 챗봇이 제공하는 심리적 조언을 평가할 표준화된 기준이 거의 없으며, 이러한 대규모 언어모델을 훈련시키는 데 사용된 데이터셋에 대한 투명성도 제한적입니다"라고 말했다. 미국심리학회(American Psychological Association)가 올해 실시한 연구에서는 심리학자의 77%가 지원이나 상호작용, 혹은 다른 이유로 AI를 사용한 환자와 대화한 적이 있다고 답했으며, OpenAI는 10월 매주 약 120만 명이 자살 생각이나 의도를 명확히 암시하는 메시지를 ChatGPT에 보내고 있다고 밝혔다.

런던 킹스칼리지(King's College London)의 신경정신의학 임상연구원 해밀턴 모린(Hamilton Morrin)은 하버드 비즈니스 리뷰와의 인터뷰에서 다음과 같이 말했다. "많은 국가에서 정신건강 관리와 치료에 대한 접근이 어렵고 대기 명단이 길다는 점을 고려하면, 점점 더 많은 사람들이 정서적 웰빙을 위한 지원을 찾아 생성형 AI로 향하는 것은 그리 놀라운 일이 아닐 수도 있습니다."

이것이 한국에 의미하는 바

SB 903은 캘리포니아 주에만 해당하는 지역 법안이며, 법률로 확정되기 위해서는 여전히 주 하원의 승인이 필요하지만, 이 논의는 미국 국경을 넘어서는 함의를 지닌다. 한국에서도 정신건강 전문가에 대한 접근은 훈련된 인력 부족, 높은 치료 비용, 그리고 정신건강을 둘러싼 사회적 낙인으로 인해 여전히 제한적이며, 이러한 요인들은 청년층을 포함한 점점 더 많은 사용자들이 심리적 지원을 위한 첫 번째 또는 대안적 수단으로 챗봇을 시도하도록 만들고 있다. 위에서 언급한 미국의 연구만큼 정밀한 국내 데이터는 아직 없지만, 세계적인 기술 산업의 중심지인 캘리포니아에서 벌어지는 이번 규제 논쟁의 규모를 고려하면, 이 법안이 최종적으로 통과될 경우 전 세계 다른 규제 당국이나 디지털 플랫폼, 한국에서 사용되는 것들을 포함해, 챗봇의 성격 공개, 사용자 동의, 그리고 정신건강 관련 권고에 대한 인간의 감독과 관련된 유사한 규칙을 만드는 데 참고 사례가 될 가능성이 높다.