캘리포니아, AI 근로자 보호법 서명… 인간 검토·해고 공개·감시 제한 의무화

2026년 9월 30일, 캘리포니아 주지사 게이빈 뉴섬은 근로자와 소비자를 동시에 보호하는 포괄적인 AI 법안 패키지에 서명했다. 이 패키지는 미국 내 최초로 고용·징계·해고와 같은 핵심 인사 결정에 인간 검토를 의무화하고, AI가 직접 원인이 된 대규모 인력 변동을 투명하게 공개하도록 요구한다. 또한 화장실·라커룸 등 사생활이 기대되는 공간에서 AI 기반 감시 장치를 배치하는 것을 금지함으로써 프라이버시와 안전 사이의 균형을 맞추려는 목표를 담고 있다.

고용 결정에 관한 주요 조항

• SB 947 – AI만을 근거로 한 징계 또는 해고 결정을 금지합니다.
• SB 951 – 직원의 고용 상태에 영향을 미칠 수 있는 모든 AI 시스템에 인간 검토 의무를 부과합니다.
• AB 1331 – AI 시스템이 원인인 대규모 해고, 이전 또는 해고 시 공개를 요구합니다.
• AB 1883 – AI 기반 인력 조치에 대한 문서화 의무를 추가합니다.

SB 947과 SB 951은 알고리즘이 단독으로 징계나 해고를 결정하는 상황을 차단한다는 점에서 핵심적인 역할을 한다. SB 947에 따르면 고용주는 AI를 보조 도구로 활용할 수 있지만, 최종적인 인사 조치는 자격을 갖춘 인간이 내려야 한다. 이때 인간 검토자는 AI가 제시한 권고를 검토하고, 필요에 따라 수정하거나 완전히 거부할 수 있다. SB 951은 이러한 요구를 확대해 고용 결과에 영향을 미칠 가능성이 있는 모든 AI 시스템—예를 들어 채용 자동화 도구, 성과 평가 알고리즘, 근무 시간 관리 솔루션—에 대해 사전에 문서화된 인간 검토 절차를 거치도록 강제한다. 두 법안 모두 AI 사용을 전면 금지하는 것이 아니라, 인간이 최종 판단자가 되도록 하는 안전망을 구축한다는 취지를 담고 있다.

이러한 규정은 기업이 기존에 도입한 AI 기반 인사 관리 시스템을 재검토하도록 만든다. 고용주는 현재 사용 중인 알고리즘이 인간 검토 단계 없이 자동으로 징계나 해고를 실행하고 있는지 여부를 평가하고, 필요 시 시스템을 수정하거나 보완해야 한다. 검토 과정에서 기록을 남기는 것이 필수이며, 이 기록은 주 노동부가 정한 보관 기간 동안 유지되어야 한다. 기록에는 AI가 언제, 어떤 데이터에 기반해 권고를 내렸는지, 인간 검토자가 어떤 판단을 내렸는지에 대한 상세 내용이 포함된다.

AI 기반 인력 변화에 대한 공개 의무

AB 1331과 AB 1883은 AI가 대규모 인력 감축을 촉발할 경우 투명성을 확보하기 위해 고용주에게 서면 공개를 의무화한다. 구체적으로, AI 시스템이 직접 원인이 된 대규모 해고, 이전, 혹은 해고가 발생하면 고용주는 해당 사건의 상세 내용을 직원에게 통보하고, 주 노동청에도 동일한 정보를 제공해야 한다. 공개 내용에는 AI가 어떤 방식으로 의사결정에 관여했는지, 어떤 데이터가 사용됐는지, 그리고 인간 검토자가 최종 결정을 내렸는지 여부가 포함된다. 법안은 ‘대규모’ 사건에 대한 구체적인 수치 기준을 명시하지 않아, 판단은 집행 기관의 재량에 맡겨진다.

이러한 공개 의무는 AI가 인력 구조를 급격히 바꾸는 상황에서 직원들의 불안감을 완화하고, 기업이 AI 활용에 대한 책임을 명확히 하도록 만든다. 또한 주 노동청은 제출된 서면을 검토해 법 위반 여부를 판단하고, 필요 시 추가 조사를 진행할 수 있다. 기업이 공개 의무를 이행하지 않을 경우, 민사 벌금 및 기타 행정 제재가 부과될 가능성이 있다.

직장 감시 제한

새로운 법령은 AI 기반 감시 기술에 대한 구체적인 제한을 두고 있다. 고용주는 화장실, 라커룸, 탈의실 등 직원이 사생활을 기대할 수 있는 공간에 AI 카메라나 얼굴 인식, 생체 데이터 수집 장치를 설치할 수 없으며, 기존에 설치된 장치가 있다면 즉시 제거하거나 비활성화해야 한다. 또한 직원의 이동 경로나 생체 신호를 지속적으로 추적하려면 명확한 업무 관련 목적이 문서화되어야 하며, 가능한 경우 직원에게 옵트아웃 옵션을 제공해야 한다. 이러한 조치는 안전·생산성 향상을 위한 정당한 감시와 기본적인 프라이버시 권리 사이의 균형을 맞추려는 의도다.

감시 제한 조항은 기존에 AI 기반 출입 통제 시스템이나 실시간 작업 효율 분석 도구를 활용하던 기업에게도 영향을 미친다. 고용주는 해당 시스템이 사적 공간을 침범하지 않도록 설정을 조정하고, 직원에게 데이터 수집 목적과 범위에 대해 명확히 고지해야 한다. 또한, 감시 데이터는 최소한의 보관 기간을 초과해 보관되지 않으며, 접근 권한은 제한된 인원에게만 부여된다.

캘리포니아의 광범위한 AI 규제 맥락

근로자 중심 법안은 같은 날 발표된 캘리포니아의 다른 AI 이니셔티브와 연계된다. 의료 분야에서는 AI가 진단이나 치료에 영향을 미칠 경우 독립적인 검증 절차를 거쳐 환자에게 공개하도록 요구한다. 주 자금을 받는 고등교육 기관은 AI 윤리와 안전 교육 모듈을 정규 교과과정에 포함시켜야 하며, 공공 조달 규칙은 주가 구매하는 AI 시스템이 투명성·편향 완화 기준을 충족하도록 강제한다. 별도 법령은 핵심 법률 업무를 AI가 수행할 경우 변호사가 최종 책임을 지도록 명시해, AI가 만든 결과물에 대해 변호사가 최종 감독을 해야 함을 규정한다. 또한 딥페이크 기술을 이용한 사칭을 범죄화하고, 유전자 합성 기업에게는 고객의 잠재적 악용을 사전 스크리닝하도록 요구하는 조항도 포함된다.

이러한 포괄적인 규제 체계는 AI가 사회 전반에 미치는 영향을 다각도로 관리하려는 캘리포니아주의 전략을 반영한다. 근로자 보호 조치는 인간 검토와 문서화 의무를 중심으로 설계돼, AI가 제시하는 권고를 인간이 검증하고 기록하도록 함으로써 책임 소재를 명확히 한다. 동시에 감시 제한과 공개 의무는 투명성과 프라이버시를 강화해, AI 활용이 불필요한 불안이나 차별을 초래하지 않도록 방지한다.

고용주에게는 즉각적인 실행 의무가 부과된다. 기업은 현재 사용 중인 AI 도구를 전면 감사하고, 징계·해고·감시 상황에서 인간 검토 절차가 적용되는지 확인해야 한다. 필요 시 공식적인 인간 검토 위원회를 설립하고, AI 기반 인력 조정에 대한 공개 절차를 정책에 반영하며, 사적 구역을 제외하도록 감시 시스템을 재구성해야 한다. 이러한 조치를 이행하지 않을 경우, 주 노동청은 민사 벌금 및 기타 행정 제재를 부과할 수 있다.

실제 현장에서 기업은 인간 감독을 통합하고, 문서화 관행을 수정하며, 관리자와 직원에게 새로운 법적 의무에 대한 교육을 제공하는 과정을 겪게 될 것이다. 이 과정에서 초기 비용과 운영상의 부담이 발생할 수 있지만, 장기적으로는 AI 활용에 대한 신뢰성을 높이고, 법적 리스크를 감소시키는 효과가 기대된다. 캘리포니아 주는 이러한 선제적 규제를 통해 AI 시대에 근로자 권리를 보호하고, 기술 혁신과 사회적 책임 사이의 균형을 모색하고 있다.