뉴욕, AI 안전 등록 시작...OpenAI·앤트로픽 연내 등록해야

뉴욕주가 최첨단 AI에 대해 입법에서 집행 단계로 넘어가고 있다. 테크크런치에 따르면 뉴욕주는 11월 10일(화) 등록 포털을 열었고, OpenAI와 앤트로픽 같은 대형 프런티어 개발사는 2027년 1월 1일까지 이 포털로 등록해야 한다. RAISE 법의 의무가 적용되기 시작하는 날도 같은 날이어서, 이번 발표는 갑작스러운 변화라기보다 카운트다운의 시작에 가깝다.

법이 요구하는 것

책임 있는 AI 안전·교육법(RAISE 법)은 대형 프런티어 개발사를 겨냥하며, 테크크런치는 이를 연간 매출 5억 달러를 넘는 기업으로 정의한다. 캐시 호컬 주지사실이 9월 21일 자 발표에서 이 법을 설명한 바에 따르면, 이들 기업은 다음을 해야 한다.

• 안전 및 투명성 체계를 마련해 자사 웹사이트에 공개한다.
• 중대한 안전 사고를 72시간 이내에 새로 설치된 DIGIT 사무소에 보고한다.
• 파국적 위험에 대한 평가서를 분기마다 DIGIT에 제출한다.
• DIGIT에 등록하고, 2027년 1월 1일부터 최소 2년에 한 번 공시서를 제출하며, 부담금을 납부한다.

테크크런치는 모델에 대한 공개 투명성 보고서도 언급한다. 2025년 12월 법 서명을 보도한 CIO Dive는 개발사가 규정 준수를 책임질 고위 인사를 지정해야 한다고 덧붙인다. 보고 대상 사고의 예로는 프런티어 모델이 사용자의 요청을 벗어나 자율적으로 행동하는 경우, 기술적 통제 장치의 심각한 실패, 모델의 도난·악의적 사용·무단 접근을 든다.

주지사실에 따르면 일반 대중도 중대 사고로 의심되는 사례를 DIGIT에 제보할 수 있으며, DIGIT은 이를 다른 당국에 전달할 수 있다. DIGIT은 또한 접수한 제보의 요약, 프런티어 모델 안전에 대한 관찰, 법 개정 권고를 담은 연례 공개 보고서를 발간한다.

누가 집행하고, 비용은 얼마나 될까

디지털 혁신·거버넌스·무결성·신뢰국(DIGIT)은 뉴욕주 금융서비스국 안에 설치돼 있다. 9월에 RAISE 법 담당 부국장으로 임명된 마크 길먼이 첫 상근 직원이며, 주지사실은 앞으로 몇 주, 몇 달 사이 직원이 더 합류할 것이라고 밝혔다. 레티샤 제임스 검찰총장은 자신의 사무소가 이 법을 집행하겠다고 말했다.

테크크런치에 따르면 과징금은 첫 위반 시 최대 100만 달러, 이후 위반 시 최대 300만 달러다. CIO Dive는 이것이 요구된 보고서를 제출하지 않거나 허위 진술을 한 개발사에 적용된다고 설명한다. 새 포털에 등록하지 않는 기업에 대해서도 주가 조치를 할 수 있지만, 대변인이 테크크런치에 구체적인 내용을 밝히지 않아 실제로 어떻게 운영될지는 아직 알 수 없다.

포털과 함께 호컬 주지사는 뉴욕주립대 소속 빙엄턴대학교에 뉴욕 AI 책임·연구센터를 출범시켰다. 테크크런치에 따르면 이 센터는 첨단 AI 시스템의 안전, 보안, 운영을 독립적으로 평가하고 DIGIT과 함께 기업의 안전 체계를 검토한다. 주지사는 1월에 처음 이를 발표했으며, 기부금과 자본으로 5,500만 달러를 확보했다고 밝혔다.

우리는 똑똑하고 합리적인 AI 규제의 전국 모델을 만들고 있습니다. 기업보다 공동체를, 강력한 기술보다 사람을 앞에 두는 모델입니다.

주별 규칙의 누더기와 연방과의 갈등

뉴욕만의 일은 아니다. 테크크런치는 1월에 시행된 캘리포니아의 SB 53도 프런티어 연구소에 안전 체계를 갖춰 공개하고 내부고발자 보호 장치를 마련하게 하며, 중대 사고를 15일 이내에 보고하도록 한다고 전한다. 2027년 초 시작되는 일리노이의 SB 315도 비슷한 요건에 더해 독립적인 안전 준수 감사를 포함한다. 뉴욕에는 AI 안전과 관련한 다른 법도 있다. 동반자형 챗봇에 관한 법은 이미 집행 중이고, 10월에 서명된 미성년자 챗봇 법은 2027년 6월 1일 시행된다.

연방 차원의 배경은 팽팽하다. CIO Dive는 2025년 12월, RAISE 법이 도널드 트럼프 대통령이 주 법률에 이의를 제기할 AI 소송 태스크포스를 만드는 행정명령을 내린 뒤 서명된 첫 주 AI 법이라고 보도했다. 어느 주가 먼저 표적이 될지는 지켜봐야 한다면서 콜로라도를 거론했다. 우리가 읽은 자료는 뉴욕 법이 도전받고 있는지, 혹은 앞으로 도전받을지를 말하지 않는다. 주지사실은 연방정부가 AI 안전에 관해 새로운 조치를 하지 않았다고 주장한다.

기업에는 무엇이 달라지나

이 법은 매출 기준을 넘는 개발사만 대상으로 하므로, OpenAI나 앤트로픽의 모델을 사용하기만 하는 일반적인 미국 기업은 제출할 서류가 없다. 영향은 오히려 간접적일 가능성이 크다. 공개가 의무화된 안전 체계와 72시간 이내 사고 보고는 구매자가 AI 공급사를 평가할 때 읽을 새로운 자료를 제공한다. 이는 우리의 분석이며 법에 적힌 내용이 아니다.

이 모델 위에 에이전트를 구축하는 기업은 지금부터 공급사에 안전 체계를 어디에 공개했는지, 사고를 어떻게 알리는지 물어볼 수 있다. 자체 대형 모델을 학습시키며 기준에 가까운 기업은 등록 의무가 자사에 적용되는지 바로 확인해야 한다. 이런 감독을 사내에서 어떻게 꾸릴지는 AI 에이전트 거버넌스 가이드에서 설명한다.