100명 이상의 AI 전문가, 연구소 내 독립 평가자 요구

AI 전문가들의 역사적인 연합, 독립 평가자를 요구

2026년 9월 18일, 백 명이 넘는 전문가와 평가자들이 AI 평가자 포럼이 조정한 집단 서한에 서명했습니다. 서명자들은 선도적인 연구자부터 평가 기관의 수장에 이르기까지 AI 커뮤니티 전반을 대표합니다. 이들의 통합된 행동은 AI 연구소의 감사 방식을 구조적으로 전환해야 한다는 전례 없는 공개 요구를 나타냅니다.

서명자 중에는 Geoffrey Hinton, Stuart Russell, Yejin Choi와 같은 저명한 인물들이 포함되어 있습니다. 이들의 참여는 제기된 우려가 소수 집단에만 국한된 것이 아니라 수십 년 동안 인공지능 분야를 형성해 온 인물들 사이에 공유되고 있음을 시사합니다. 학계 지도자와 평가 기관 관계자가 모두 포함된 점은 청원 뒤에 있는 전문 지식의 폭넓음을 강조합니다.

핵심 요구사항: 독립성, 투명성 및 접근성

서한은 명확한 요구 사항을 제시합니다. 첫째, AI 연구소에 내재된 평가자는 자신이 평가하는 기관으로부터 법적·재정적 독립성을 유지해야 한다고 주장합니다. 이러한 독립성은 평가자가 호스트 조직의 부당한 영향 없이 판단을 내릴 수 있도록 보호하기 위한 것입니다.

둘째, 서명자들은 사용된 방법론, 얻어진 결과, 접근이 허용된 조건, 그리고 잠재적인 이해 충돌에 대해 완전한 투명성을 요구합니다. 이러한 요소들의 공개를 요구함으로써 연합은 평가 과정 자체가 감시 대상이 되도록 하여 불투명하거나 편향된 평가의 위험을 줄이고자 합니다.

셋째, 서한은 평가자에게 고위 내부 직원과 동등한 수준의 접근 권한을 부여할 것을 요청합니다. 여기에는 연구소 시스템, 데이터 저장소, 특수 도구, 물리적 시설에 대한 무제한 접근과 AI 프로젝트를 담당하는 팀과의 직접 인터뷰가 포함됩니다. 이러한 포괄적인 접근을 통해서만 평가자는 주장들을 검증하고 숨겨진 위험을 감지할 수 있다는 것이 논리적 근거입니다.

소통 및 보호 메커니즘

제안의 또 다른 요소는 평가자가 연구소 이사회와 직접 소통할 수 있는 공식 채널을 구축하는 것입니다. 이는 평가자가 최고 수준의 거버넌스 단계에서 결과를 제시하게 하여 전략적 의사결정이 독립적인 분석에 기반하도록 보장합니다. 또한 서한은 평가자가 수집한 증거를 제한적이고 일시적인 마스킹을 적용해 보안·프라이버시·지식재산을 보호하면서도 공개할 수 있도록 허용합니다.

핵심적으로, 서명자들은 평가자가 조사 대상 연구소에 불리한 결론을 내렸을 경우 법적·재정적 보복으로부터 보호받을 수 있는 법적 장치를 요구합니다. 이러한 보호는 현재 엄격하고 비판적인 보고를 억제하는 주요 억제 요인을 제거하기 위한 것입니다.

연합은 제안이 대체적인 것이 아니라 보완적인 것임을 명시합니다. 제시된 프레임워크는 기존 내부 통제와 공공 투명성 메커니즘을 강화하되, 규제 체계나 AI 제공자의 법적 책임을 대체하지 않는다고 밝힙니다. 이 서술은 법과 시장 메커니즘의 역할을 인정하면서 독립 평가가 메울 수 있는 공백을 강조합니다.

함축과 남아있는 질문들

이 제안이 채택된다면, AI 개발자와 외부 감시자 사이의 권력 역학이 재편될 수 있습니다. 법적·재정적 자율성을 갖춘 독립 평가자는 내부 감사팀이 간과하거나 축소하는 위험을 드러낼 수 있을 것입니다. 이사회 수준의 소통 요구는 안전 문제의 가시성을 기업 전략 내에 높이는 효과도 기대합니다.

그러나 평가자에게 제시된 수준의 접근 권한을 부여하는 것이 실현 가능할지는 불확실합니다. 독점적인 시스템과 데이터에 무제한으로 진입하도록 허용하면 영업 비밀을 어떻게 보호하면서 투명성 조항을 만족시킬지에 대한 질문이 제기됩니다. 일시적인 마스킹 조항은 이러한 이해관계를 균형 잡으려 하지만, 무엇이 필요한 마스킹인지에 대한 기준은 서한에 정의되지 않았습니다.

또 다른 미해결 문제는 반보복 보장 시행 방안입니다. 서한은 법적·재정적 보복으로부터의 보호를 요구하지만, 이러한 보호가 어떻게 모니터링되고 집행될지에 대한 구체적인 메커니즘을 제시하지 않습니다. 기존 노동법을 독립 평가자에게 확대 적용할 수 있는지, 아니면 새로운 계약 프레임워크가 필요한지는 추가 검토가 필요합니다.

제안은 또한 독립 평가자를 어떻게 선정하고 자금을 조달할 것인지에 대한 질문을 제기합니다. 연구소와의 재정적 독립성을 유지하려면 평가자는 결과에 이해관계가 없는 출처로부터 자금을 받아야 합니다. 서한은 잠재적인 자금 모델을 구체화하지 않아 중요한 운영 세부 사항이 해결되지 않은 상태로 남습니다.

• 평가자의 법적·재정적 자율성
• 방법, 결과 및 이해 충돌에 대한 전면 공개
• 특권 내부 직원과 동등한 접근 권한
• 이사회에 직접 보고하는 채널

보다 넓은 관점에서 볼 때, 연합의 요구는 향후 정책 논의를 좌우할 가능성이 있습니다. 규제 당국은 자율적 프레임워크를 강제 표준의 벤치마크로 삼을 수 있으며, 특히 산업계가 자체 규제에 적극적일 경우 그러합니다. 반대로 서한에 명시적인 규제 언어가 부재한 것은 입법 기관이 여전히 별개의 역할을 수행할 것이라는 기대를 반영합니다.

보완적 감독에 대한 강조는 AI 거버넌스에 다층적 접근을 시사합니다. 독립 평가는 내부 준수 프로그램과 외부 규제 감시 사이의 중간 단계로 작용하여 개발 파이프라인 초기에 문제를 포착할 수 있는 잠재력을 제공합니다.

마지막으로, 백 명이 넘는 서명자는 제안에 대한 정당성을 부여하며 AI 연구소가 이 제안을 진지하게 검토하도록 압박할 수 있습니다. 고위 연구자들의 참여는 현재의 평가 관행이 현대 AI 시스템의 규모와 영향에 비해 충분하지 않을 수 있다는 주장을 뒷받침합니다.