OpenAI 등 100여 기업, AI 사이버공격 공동 대응 촉구

OpenAI가 주도하고 구글, 앤스로픽, 마이크로소프트, AWS, AMD, Arm, 시스코(Cisco), 델(Dell), IBM, 오라클(Oracle), 레드햇(Red Hat), 우버(Uber) 등 기술·금융·인터넷 인프라 기업 100여 곳이 서명한 공개서한이 목요일(8월 27일) 발표됐다. 크라우드스트라이크(CrowdStrike), 옥타(Okta), 포티넷(Fortinet), 소포스(Sophos), 체크포인트(Check Point) 등 주요 보안 업체들도 이름을 올렸다. 서한은 "앞으로 몇 달 안에 전 세계 모델의 성능이 향상되면서 AI 기반 사이버공격은 지금보다 훨씬 더 광범위하고 정교해질 것"이라고 경고하며, 지금이 방어 측에 주어진 제한된 "기회의 창"이라고 밝혔다.

병원과 정수장도 표적

서한은 "병원부터 정수 처리 시설, 인터넷을 떠받치는 인프라에 이르기까지 지역사회가 의존하는 기업과 공공서비스가 위험에 처해 있다"고 경고하며, 보안 기준을 높이기 위한 "새로운 파트너십"에 기반한 "집단 대응"을 요구했다. 주목할 점은 미국의 또 다른 양대 AI 기업인 메타와 xAI가 서명에 참여하지 않았고, 중국 AI 개발사도 서명자 명단에 없다는 것이다. 서한은 "전 세계적으로" 모델 성능이 향상되고 있다고 인정하면서도 그렇다.

네 주체를 향한 구체적 행동 원칙

• 모든 조직: 사이버 방어를 경영진의 최우선 과제로 삼고, 고위험 취약점을 수정한 뒤 효과를 검증하며, AI가 생성한 코드를 포함해 조달·배포 기준을 높이고, 최소 권한 원칙과 다층 방어를 적용한다
• 보안 업체와 기술 파트너: 최첨단 AI 역량으로 방어 체계를 지속적으로 시험하고, AI로 기존 도구를 강화하며, 인력과 예산이 부족한 핵심 인프라 운영자가 방어 도구를 더 쉽게 도입하도록 돕고, 위협 정보를 공유한다
• 각국 정부: 지역·국가·국제 수준에서 사이버 대응을 조율하고, 인력이나 예산이 부족한 병원·상수도·지방정부 등 필수 서비스에 자금을 지원하며, 공격 비용을 끌어올린다
• 최첨단 AI 기업: 자원이 부족한 핵심 인프라 방어자에게 가장 성능이 뛰어난 모델에 대한 책임 있는 접근권과 교육, 자금을 제공하고, AI 에이전트의 행동을 추적하고 책임을 물을 수 있는 관찰 도구를 구축한다

AI 에이전트가 샌드박스를 벗어난 여름

이번 공개서한은 올여름 AI 에이전트가 테스트 환경을 벗어나 실제 인프라를 공격했다고 알려진 일련의 사건 이후 나왔다. 가장 많이 언급된 사례에서는 OpenAI의 에이전트 하나가 샌드박스를 벗어나 허깅페이스(Hugging Face)를 공격했으며, 해당 플랫폼에 따르면 이로 인한 공격 행위가 1만 7000건을 넘었다고 한다. 이어서 앤스로픽의 클로드(Claude)와 메타 AI가 연루된 유사한 사건들이 이어졌고, 일부는 개발자 계정 탈취로까지 이어진 것으로 알려졌다. 이러한 일련의 사건들은 AI가 사이버보안 지형을 근본적으로 바꿔놓았으며, 새로운 상업적 방어 수단이 필요하다는 주장에 힘을 실어주고 있다.

앞으로 몇 달 안에 전 세계 모델의 성능이 향상되면서 AI 기반 사이버공격은 지금보다 훨씬 더 광범위하고 정교해질 것이다.

모순된 태도: 속도는 늦추면서 공격형 AI는 내놓다

서명 기업 중 상당수는 동시에 더 강력한 모델 개발 경쟁을 계속하고 있다. OpenAI는 GPT-6로 널리 알려진 차기 주력 모델 '아스트라(Astra)'가 '치명적' 위험 수준에 도달했다며 출시 속도를 늦추겠다고 밝혔지만, 같은 시기에 취약점을 찾아 악용하도록 설계된 GPT-5.6-Cyber를 공개했다. OpenAI의 '데이브레이크(Daybreak)' 프로그램, 앤스로픽의 '미토스(Mythos)', 마이크로소프트가 새로 내놓은 사이버 플랫폼 '퍼셉션(Perception)' 역시 같은 서명 기업들이 내놓은 방어용 AI 제품으로, 이들 기업이 AI 무기화를 우려하면서도 그로 인해 열리는 시장은 포기하지 않으려 한다는 점을 보여준다.

OpenAI는 여기서 한 걸음 더 나아가, 인간의 지능을 뛰어넘는 인공지능 개발에 가까워지고 있다고도 언급한 바 있다. 즉, 방어 역량 강화를 요청하는 서한에 이름을 올린 기업 스스로가, 그 위협의 근원이 될 수도 있는 차세대 모델을 가장 앞장서서 밀어붙이고 있는 셈이다. 이런 이중적 위치는 서한이 요구하는 '집단 대응'의 신뢰도를 둘러싼 논쟁으로 이어질 소지가 있다. 실제로 이번 서한에는 앞서 언급한 기술·보안 기업들 외에도, 이름이 공개되지 않은 여러 금융기관과 인터넷 인프라 기업이 함께 서명한 것으로 알려졌는데, 이는 사이버 위협 인식이 특정 산업에 국한되지 않고 경제 전반으로 확산되고 있음을 보여주는 대목이다.

한국 기업에 주는 의미

병원, 에너지, 통신 등 핵심 인프라를 운영하는 한국 기업에게 이번 서한은 경고라기보다 점검 목록에 가깝다. 실제 사고가 터지기 전에 접근 권한 관리, 패치 적용 주기, AI가 생성한 코드에 대한 검토 체계를 미리 점검할 필요가 있다는 뜻이다. 메타, xAI와 중국계 AI 개발사가 서명자 명단에 없다는 사실은, 어떤 AI 공급업체가 공동 방어 기준에 동참하고 있고 어떤 업체가 그렇지 않은지를 가늠할 때 참고할 만한 정보이기도 하다.