섀도우 AI: 규정이 현실을 못 따라가는 사이, 실험실도 발을 헛디뎠다

생성형 AI는 이미 독일 직장인의 일상에 자리 잡았지만, 사내 거버넌스는 그 속도를 따라가지 못하고 있다. 지식노동자의 약 75%가 이미 AI를 사용하고 있으며, 대부분은 공식 승인 없이 사용한다. 거의 모든 기업—98%—이 AI 전략을 갖추고 있지만, 경영진이 실제 사용을 적극적으로 통제하는 곳은 39%에 그친다. 워크 트렌드 인덱스에 따르면 경영진의 60%가 명확한 실행 계획이 없다고 스스로 인정했다. 전략 문서와 실제 업무 사이에는 이렇게 컴플라이언스 간극이 벌어져 있고, 이제 그 간극에는 이름이 붙었다—섀도우 AI다.

'내 AI 가져오기'는 대개 악의가 아니다

AI 사용자의 78%가 자신의 도구를 직접 가지고 회사에 들어온다. 이유는 단순하다. 더 빨리 일하고 싶은데 사내에는 승인된 대안이 없기 때문이다. 산업단체 비트콤(Bitkom)에 따르면 현재 공식 AI 서비스를 직원에게 제공하는 기업은 26%에 불과하다. 직원의 4분의 3이 고용주의 4분의 1만 제공하는 기술로 일하게 되면, 그 결과는 혁신 문화가 아니라 언어모델을 낀 그림자 IT다.

위험은 데이터가 있는 곳에서 심각해진다. 인사, 재무, 세무, 법무 부서는 개인정보와 법적으로 민감한 내용을 일상적으로 다룬다. 지원서류나 직원 데이터가 공개된 도구에 붙여넣어지는 순간, GDPR 제5조가 규정한 데이터 최소화와 목적 제한 원칙이 발동한다—그런데도 그 데이터가 이후 어떻게 처리되고 저장되는지 사내에서 아는 사람은 아무도 없다. 여기에 지난 8월부터는 사람, 권리, 안전에 영향을 미치는 사용 사례에 대해 EU AI법의 투명성·문서화 의무까지 추가됐다.

• 데이터 보호: 어떤 개인정보 또는 사업상 중요한 데이터를 어느 모델에 넣어도 되는가
• 규제 대응: 해당 사용 사례가 EU AI법의 투명성·문서화 의무 대상에 해당하는가
• 전문적 책임: 아무도 결과물을 전문적으로 검토하지 않는다면 그 결과는 누가 책임지는가

1년째 필터 없이—앤스로픽에서

실험실 스스로는 이미 이 간극을 메웠을 거라 생각했던 이들은 바로 같은 주에 그 생각이 틀렸음을 확인했다. 앤스로픽은 자체 안전 보고서에서 2025년 5월부터 2026년 4월까지 외부 업체발 데이터 전체가, 차단 기능을 가진 생물학적 위험 분류기가 작동하지 않은 상태로 시스템을 통과했다고 밝혔다. 이 필터는 화학·생물무기 관련 위험한 지식이 모델에서 추출되는 것을 막기 위한 것이다. 영향을 받은 인원은 약 5만 명으로, 이들이 모델과 나눈 대화는 합계 약 1억 3,300만 건에 달한다. 검토는 오직 외부 제공업체에게만 맡겨져 있었는데, 앤스로픽에 따르면 그 심사는 종종 충분하지 않았다.

자체 조사 결과 회사는 실제 악용의 증거는 찾지 못했다고 밝혔고, 이후 협력업체에 대한 요구 수준을 강화했다. 그럼에도 세부 내용은 역설적이다. 이 회사는 화학·생물무기 위험을 사이버공격보다 더 위험하다고 평가해온 CEO 다리오 아모데이가 이끄는 바로 그 회사이기 때문이다. 부족했던 것은 규정이 아니라, 그 규정이 실제로 작동하고 있는지에 대한 확인이었다.

누구도 그 효과를 측정하지 않는 규정은 통제가 아니다—사건 번호가 붙은 의향서에 불과하다.

오픈AI, Preparedness 팀 해체

오픈AI에서는 이 움직임이 더 공개적으로 이루어졌다. 파이낸셜타임스가 복수의 내부 소식통을 인용해 보도한 바에 따르면, 7월 말 오픈AI는 자사 모델이 심각하거나 재앙적인 위험을 안고 있는지 평가하던 Preparedness 팀을 해체했다. 생물학적·사이버 위험에 대한 책임은 기존 팀들로 분산됐고, 팀의 전 책임자였던 딜런 스칸디나로는 현재 재귀적으로 스스로를 개선하는 시스템의 위험을 연구하고 있다. 공동창업자 그렉 브록만은 안전 관련 작업이 모델 개발 과정에 더 깊이 통합되었다고 설명했다.

내부 분위기는 사뭇 다르다. 안전 부서에서는 최근 여러 직원이 퇴사했는데, 윤리팀 책임자 클로이 바카라와 조슈아 아치암도 포함됐다. 한 소식통은 회사가 안전 문제에 충분히 대응하지 못하고 있다는 책임감과 불안이 내부에서 들끓고 있다고 전했다. 특히 허깅페이스에서 발생한 자율 해킹 사건 이후 일부 직원은 공개적으로 비판적인 목소리를 냈으며, 한 직원은 오픈AI가 이 사건을 경고 신호로 받아들이길 바란다고 말했다.

기업이 여기서 얻어야 할 교훈

사내 AI 거버넌스 관점에서 두 사례는 똑같이 불편한 교훈을 준다. 승인 도구 목록, 정책 문서, 교육 세션은 문서를 만들 뿐 안전을 만들지는 않는다. 중요한 것은 앤스로픽도 오픈AI도 제때 답하지 못했던 질문이다—통제가 오늘 실제로 작동하고 있는가, 그리고 그것이 멈췄다면 우리는 어떻게 알아챌 것인가. 섀도우 AI를 실질적으로 줄이려는 기업이라면, 직원의 78%가 이미 자신의 도구로 답을 내놓은 질문에도 답해야 한다—어떤 승인된 서비스가 실제로 업무를 더 빠르게 만드는가 하는 질문이다. 대안 없는 금지는 사용을 아무도 보지 못하는 곳으로 옮길 뿐이다. 한국 기업에도 이 교훈은 남의 일이 아니다. EU 고객이나 직원의 데이터를 다루거나 유럽 시장과 거래하는 기업이라면 GDPR의 최소화·목적 제한 원칙과 EU AI법의 문서화 의무를 동일하게 적용받게 되며, 서명만 된 AI 정책은 브라우저 탭에서 열리는 챗GPT와 속도로 경쟁할 만한 공식 대안이 없다면 사실상 무용지물이다.