앤스로픽 "Claude 악용한 생물무기 연구 시도 차단"

앤스로픽은 2026년 9월 10일 역대 가장 상세한 위협 인텔리전스 보고서를 공개하며, 생물무기 개발로 이어질 수 있는 연구에 Claude 모델을 이용하려 한 사용자를 적발했다고 밝혔다. 사이버 공격, 영향력 공작, 감시, 무기 시스템 개발과 관련된 다른 악용 사례도 함께 확인됐다. 회사는 보고서에 담긴 모든 활동을 실제 피해가 발생하기 전에 차단했다고 밝혔다.

조류독감부터 독소 펩타이드까지, 확인된 다섯 건의 사례

보고서는 Claude 모델이 민감한 생물학 연구와 관련된 활동에 사용된 다섯 건의 개별 사례를 기록하고 있다. 한 사례에서는 한 연구자가 Claude의 도움을 받아 조류독감을 포유류에 적응시키는 "기능획득" 실험을 수 주에 걸쳐 계획했다. 다른 사례에서는 한 사용자가 독소 펩타이드의 종합 지도를 구축한 뒤, 마비성 및 진통성 독소를 표적으로 하는 분자를 더 정밀하게 최적화하는 생성형 시스템을 만들었다.

세 번째 사례에서는 앤스로픽 자체의 "생물안전 분류기"가 치쿤군야 바이러스에 대한 기능획득 연구에 Claude를 사용하려는 요청을 포착했다. 여기에는 바이러스의 전파력과 면역 회피 능력을 높이려는 개조 방안이 포함돼 있었다. 앤스로픽 위협 인텔리전스팀은 해당 프로젝트가 군사 연구기관과 연관돼 있어 추가적인 우려를 낳았다고 밝혔다고, 이 세부 내용을 처음 보도한 아랍어 매체 aitnews가 전했다.

앤스로픽이 기록한 악용 사례는 생물학 분야에만 국한되지 않는다. 앤스로픽 자체 보고서에 따르면, 감시 활동에 대한 이용, 보안 취약점을 노린 익스플로잇 코드 작성, 선전물 제작, 재래식 무기 시스템 개발 지원 등 다른 목적의 악용 시도도 함께 기록됐다.

아이티뉴스(aitnews)에 따르면, 앤스로픽의 위협 인텔리전스 책임자 제이컵 클라인은 이런 종류의 악의적 활동을 적발하는 일이 간단하지 않다며, 실제 사례는 생물무기를 만들겠다고 공공연히 밝히는 사람을 상정하는 것보다 훨씬 더 모호하고 복잡한 경우가 많다고 말했다.

앤스로픽이 연구자 신원을 공개하지 않는 이유

앤스로픽은 보고서에서 이런 종류의 악용을 적발하는 일이 간단하지 않다고 인정한다. 위험한 연구와 관련된 일부 요청은 백신 개발이나 감염병 연구 같은 정당한 과학 활동과 겉으로는 매우 유사하기 때문이다. 스페인 일간지 ABC에 따르면, 이 때문에 회사는 요청 배후의 의도를 명확히 판단할 수 없을 때는 잠재적 결과의 심각성을 고려해 조심스러운 태도로 대응하기로 했다고 한다. 보고서는 이렇게 설명한다. "평가는 역량에 대한 증거를 제공한다는 점에서 유용하지만, 그 역량이 실제로 현실 세계에서 생물무기 개발에 사용될 것이라는 점을 결정적으로 입증할 수는 없다."

회사는 다섯 건의 사례와 관련된 연구자나 기관의 신원을 공개하는 것을 거부했다. 관련자들이 공식적으로 연구 활동에 종사하는 과학자들이며, 해를 끼치려는 의도가 있었는지 확인할 수 없고, 결정적인 악의의 증거 없이 신원을 공개하면 이들이 피해를 볼 수 있다는 이유에서다. 대신 앤스로픽은 해당 계정을 정지하고, 조사 결과를 안전 시스템에 반영해 향후 이런 활동을 더 잘 탐지하고 방지할 수 있도록 했다.

ABC에 따르면, 앤스로픽 보고서 자체는 생물학적 오용을 최첨단 AI 모델이 초래하는 가장 심각한 위험 중 하나로 규정하며, 이런 모델이 기존 병원체의 위험성을 높이거나 완전히 새로운 병원체를 만들어낼 수 있는 수준의 역량에 도달할 수 있고, 적절한 안전장치가 없다면 이런 역량이 재앙적인 결과로 이어질 수 있다고 경고했다.

우리는 역대 가장 상세한 위협 인텔리전스 보고서를 공개합니다. 이 보고서는 사람들이 사이버 공격, 영향력 공작, 감시, 생물학, 무기 제작을 위해 Claude를 악용하려 한 방식과, 우리가 이를 어떻게 발견하고 막았는지를 다룹니다. 우리는 보고서에 담긴 모든 작전을 차단했습니다.

한국 기업에는 무엇이 달라지나

이번 보고서는 전 세계 정부와 기업이 코딩, 연구, 고객 응대를 위해 점점 더 자율적인 AI 에이전트 도입을 서두르는 가운데 나왔다. 앤스로픽이 기록한 사례들은 최첨단 모델의 생물학적 위험이 더 이상 가설이나 이론상의 우려가 아니라는 점을 보여준다. 이는 선도적인 연구소가 직접 탐지하고 차단한 실제 사건으로, 첨단 AI를 도입하거나 호스팅하는 모든 기관이 모델 안전성을 자신의 문제로 여겨야 함을 뜻한다. 소수의 미국 연구소만의 문제가 아니라는 것이다.

한국은 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 체계를 마련해 두고 있지만, 최첨단 모델이 생물·화학 분야의 이중용도 연구 요청을 구체적으로 어떻게 걸러내야 하는지, 어떤 절차와 책임 소재로 심사해야 하는지에 대한 세부 규정은 아직 정비되는 단계다. 이미 AI 에이전트에 웹 탐색, 코드 작성, 과학 데이터베이스 조회 권한을 부여한 한국 기업들에게 이번 보고서는, 연구소가 스스로를 위해 마련한 안전장치만으로는 충분하지 않으며, 공급업체 모델이 이런 구체적 상황에 실제로 어떻게 대응하는지를 독립적으로 검증하는 절차가 반드시 뒤따라야 한다는 점을 다시 한번 일깨워준다.