빌 게이츠 “AI 악용 시 10억명 사망 사건도 가능…정부 규제 필요”

2026년 9월 26일, 마이크로소프트 공동창업자 빌 게이츠가 인공지능이 악의적인 사람에게 악용될 경우 10억명의 사망을 초래하는 사건을 일으킬 만큼 강력해질 수 있다고 경고한 사실이 보도됐다. 이 발언은 NBC 시사 프로그램 ‘미트 더 프레스’ 인터뷰 발췌에 담긴 것으로 알려졌으며, 전체 인터뷰는 9월 27일 방송될 예정이다. 게이츠가 강조한 위험은 AI가 스스로 인류를 공격한다는 이야기가 아니라, 사람이 고도화된 AI 도구를 범죄나 대규모 위해에 사용하는 경우다.

다만 현재 공개된 발췌만으로는 이 경고의 구체적 경로를 확인하기 어렵다. 게이츠는 10억명이라는 수치가 어떤 가정이나 계산에서 나왔는지 설명하지 않았고, 시점도 제시하지 않았다. 생물무기나 자율무인기처럼 특정한 공격 수단을 언급한 것도 아니다. 따라서 이 숫자는 검증된 예측이나 임박한 사건의 설명이라기보다, 악용이 초래할 수 있는 최악의 위험 규모를 강조한 표현으로 해석할 필요가 있다.

AI의 독자적 행동보다 사람의 악용을 경계

공개된 발언에서 게이츠는 “악의를 가진 사람과 최신 AI 도구의 결합만큼 강력한 무기는 없었다”는 취지로 말했다. 초점은 AI 모델이 스스로 목표를 세우는지 여부가 아니다. 강력한 도구에 악의, 자금, 조직력, 실행 능력을 갖춘 사람이 결합할 때 위험이 커진다는 주장이다. 제공된 보도는 그가 먼 미래의 가상적 문제만이 아니라, 현재부터 가능한 범죄적 활용을 위험 요인으로 봤다고 전한다.

이 구분은 규제 논의에서 중요하다. 모델의 성능만 평가하는 것으로는 부족하고, 누가 어떤 기능에 접근하는지, 위험한 사용을 어떻게 감시하는지, 이상 징후가 발견됐을 때 누가 개입하는지를 함께 다뤄야 하기 때문이다. 그러나 이번 발췌에는 어떤 수준의 기술 능력이나 접근 조건이 대규모 피해로 이어지는지에 대한 설명이 없다. 문제 제기는 분명하지만, 위험이 현실화되는 과정을 입증한 자료는 아직 공개되지 않았다.

이번 발언은 AI 개발 속도와 안전장치를 둘러싼 기술업계의 견해 차이 속에서 나왔다. 제공된 자료에 따르면 앤트로픽 최고경영자 다리오 아모데이는 첨단 모델 개발 속도를 조절할 필요가 있다는 입장을 냈고, 마이크로소프트 AI를 이끄는 무스타파 술레이만도 안전장치의 필요성을 강조했다. 반면 메타의 마크 저커버그 최고경영자와 엔비디아의 젠슨 황 최고경영자 등은 개발 속도를 인위적으로 늦추는 접근에 부정적인 견해를 보여 왔다.

• 게이츠는 AI가 10억명의 사망을 초래할 사건을 일으킬 정도로 강력할 수 있다고 말했지만, 공개 발췌에는 구체적 시나리오와 산정 근거가 없다.
• 그는 AI 자체의 자율적 행동보다 악의적인 사람이 최신 AI를 사용하는 상황을 핵심 위험으로 지목했다.
• AI 안전장치와 감시 방안 마련에 법 집행기관과 정치권이 참여해야 한다고 주장했다.
• 규제는 기업에 추가 부담을 줄 수 있지만 기술 개발을 극적으로 늦추지는 않을 것이라는 입장을 밝혔다.

“자율규제만으로는 부족하다”는 정책 제안

게이츠는 AI 안전을 기업의 자율규제에만 맡기는 것으로는 충분하지 않다고 밝혔다. 진행자 크리스틴 웰커가 워싱턴이 법을 만들어야 하느냐고 묻자 그는 “절대적으로 그렇다”는 취지로 답했다. 그의 제안은 법 집행기관과 정치권이 안전 가드레일과 모니터링 방식을 설계하는 데 참여하고, 그 규칙을 선택적 약속이 아니라 의무로 만들어야 한다는 것이다.

그의 논리는 경쟁 압력이 자발적 약속을 약화시킬 수 있다는 데 있다. 기업 경영진이 안전을 약속하더라도 경쟁사가 더 빠르게 성능을 높이는 상황에서는 한 기업만 제한을 유지할 유인이 줄어들 수 있다. 외부 감시가 없으면 약속을 지킬 강제력이 없다는 문제 제기다. 다만 공개된 자료에는 그가 지지하는 법안 문구, 감사 방식, 위반 시 제재, 감독 주체의 권한 배분은 제시되지 않았다.

게이츠는 규제가 AI 기업에 추가 비용과 업무 부담을 줄 수 있다는 점은 인정했다. 그러나 그 부담이 기술 개발 속도를 크게 떨어뜨릴 정도는 아니라고 봤다. 이 판단에도 비용이나 일정에 관한 수치는 붙지 않았다. 실제 제도에서는 이용 기록의 보관, 고위험 용도 관리, 모니터링의 범위, 수사기관과의 정보 공유, 책임 소재 등이 쟁점이 될 수 있다. 하지만 이 같은 운영 방식이 이번 인터뷰 발췌에서 구체적으로 설명된 것은 아니다.

미 연방 안전장치는 아직 미통과, 전체 인터뷰가 변수

자료에 따르면 이 인터뷰는 9월 23일 녹화됐고 일부 내용이 먼저 공개됐다. 미국 의회는 아직 AI에 관한 연방 차원의 안전 가드레일을 통과시키지 못했다. 게이츠의 발언은 전국적으로 적용되는 강제 규칙이 마련되지 않은 상황에서 나온 셈이다. 9월 27일 예정된 전체 방송에서는 그가 10억명이라는 표현의 배경, 상정한 악용 경로, 감독 체계의 구체적 설계를 추가로 설명할지 확인할 필요가 있다.

게이츠의 AI 관련 발언은 최근 수개월 동안 더 강해졌다. 제공된 자료는 그가 앞서 AI 세금을 요구했고, AI가 덜 영향을 줄 수 있는 직업 세 가지를 언급했다고 전한다. 그는 8월 자신의 블로그 Gates Notes에 올린 긴 글에서 현재 속도라면 AI가 전반적으로 부정적 결과를 낳을 위험이 “매우 높다”고 평가했다. 그러나 이런 과거 발언이 이번의 10억명 수치에 대한 계산 근거나 실증 자료를 제공하는 것은 아니다.

한국에서 AI를 도입하는 기업과 공공기관, 이용자에게 이 논쟁의 실질적 의미는 큰 숫자 자체를 사실로 받아들이는 데 있지 않다. 서비스 제공자의 안전 약속을 접근 권한, 사용 기록, 감시 절차, 신고 체계, 책임 분담처럼 점검 가능한 운영 기준으로 바꿔 확인하는 일이 더 직접적인 과제다. 게이츠의 발언은 악용 위험에 대한 강한 정책적 경고이지만, 현재 공개된 자료만으로 최악의 결과가 얼마나 현실적인지 판단할 수는 없다.