수학자들, 저작권 위험이 커져도 AI 도구 사용을 멈추지 않는다

최근 Wired 기사에 따르면, 수학 공동체의 상당수가 증명 보조, 추측 생성, 코드 검증을 위해 대형 언어 모델을 계속 활용하고 있으며, 기여 기록과 데이터 프라이버시 보호에 대한 우려를 동시에 표명하고 있다.

이 기사에서는 OpenAI의 ChatGPT, Anthropic의 Claude, 오픈소스 Codex와 같은 도구가 유럽과 북미의 연구 그룹에서 아이디어를 신속히 시험해 보는 데 활용되고 있다고 강조한다.

저작권 논쟁이 격차를 드러낸다

Navier‑Stokes 방정식 연구자 Tristan Buckmaster는 OpenAI가 자신의 미공개 작업과 유사한 결과를 발표했다고 공개 비난했다. OpenAI는 9월 8일에 기록된 대화와 해당 사전 인쇄물이 모델 출력에 영향을 주지 않았다고 답변했으며, 연구자의 개인 메모와 모델 제안 사이의 인과 관계를 증명하기 어려움을 보여준다.

또 다른 수학자 Andreas Thom은 OpenAI가 자신의 연구에 직접 영향을 준 2019년 논문을 누락한 뒤 정정을 받았다. 이 사례는 대규모 조직도 학술 자료를 집계할 때 중요한 인용을 놓칠 수 있음을 보여준다.

투명성 요구가 모여 있다

Wired가 보도한 바에 따르면, 25명의 필즈 메달리스트가 공동 서한에 서명해 AI 기업이 상업 개발 주기와 수학 연구의 검증 중심 속도 사이 격차를 해소하도록 촉구했다.

서한은 AI가 일상 계산을 가속화할 수는 있지만, 각 논리적 단계와 모든 지적 기여를 검증하는 엄격한 동료 검토 과정을 대체할 수는 없다고 강조한다.

Leiden 선언이 안건을 제시한다

2026년 6월 2일 발표된 Leiden 선언은 인공지능과 수학 분야의 무결성을 보호하기 위한 구체적 조치를 제안한다. 선언은 출판물에 AI 활용을 반드시 명시하고, 저자가 도구가 생성한 권고에 대해 전적인 책임을 진다고 규정한다.

선언에 따르면, AI가 만든 그럴듯하지만 잘못된 주장은 검토자의 부담을 늘리고 독립 검증 가능성을 위협한다. 특히 하나의 오류가 전체 증명을 무효화할 수 있는 분야에서 위험이 크게 증대된다.

• 모든 제출물에 AI 사용 명시 요구
• 프롬프트와 모델 출력 로그를 재현 가능하게 유지
• AI 생성 주장에 대해 독립 검증 수행
• 동료 검토 전 AI 기반 결과의 마케팅 발표 금지
• 각 결과와 인간 기여자를 연결하는 감사 추적 생성

선언은 또한 기업 마케팅 일정에 AI 기반 돌파구를 발표하는 행위가 충분한 과학적 증거가 확보되기 전에 과대광고와 자금 지원 기관을 오도할 위험이 있다고 경고한다.

궁극적인 목표는 AI를 수학에서 금지하는 것이 아니라 증명, 신용, 투명성 및 연구자의 자율성을 보존하여, 커뮤니티가 계산 보조의 이점을 누리면서도 엄격함을 잃지 않도록 하는 것이다.

첫째, AI 도구의 활용이 연구 과정에 미치는 영향을 체계적으로 분석하는 것이 필수적이다. 현재 수학자들은 증명 탐색, 추측 생성, 코드 검증 등 다양한 단계에서 대형 언어 모델을 이용하고 있지만, 이러한 활용이 실제 연구 성과에 어떤 기여를 하는지와 동시에 어떤 위험을 내포하고 있는지를 정량적으로 평가해야 한다. 구체적으로는 AI가 제시한 아이디어가 인간의 직관과 얼마나 일치하는지, 그리고 그 아이디어가 독립적인 검증 절차를 거쳐 재현 가능한지를 검증하는 메커니즘을 마련해야 한다. 이러한 검증 체계가 없을 경우, AI가 제공하는 결과가 검증되지 않은 채 논문에 포함될 위험이 커지며, 이는 학문적 신뢰성을 저해할 가능성이 있다. 따라서 연구팀은 AI 활용 전후의 작업 흐름을 비교 분석하고, AI가 실제로 증명 과정의 효율성을 증대시키는지 여부를 명확히 규명하는 절차를 도입해야 한다.

둘째, 저작권과 데이터 프라이버시 문제는 AI 활용의 근본적인 한계로 작용한다. 대형 언어 모델은 방대한 텍스트 데이터를 학습하기 때문에, 연구자의 미공개 메모나 초안이 모델에 포함될 경우, 해당 내용이 무단으로 재현될 가능성이 있다. 이러한 상황에서는 연구자의 원본 자료와 모델 출력 사이의 인과 관계를 입증하기 어려워, 법적·윤리적 분쟁으로 비화될 위험이 있다. 따라서 연구기관은 데이터 입력 단계에서 개인적인 연구 노트를 모델 학습에 포함시키지 않도록 엄격한 내부 정책을 수립하고, 이미 학습된 모델에 대한 접근 권한을 제한하는 조치를 취해야 한다. 또한, 저작권 침해 여부를 사전에 검증할 수 있는 자동화된 도구를 개발하여, AI가 생성한 텍스트가 기존 연구와 중복되는지를 실시간으로 확인하는 체계를 구축하는 것이 필요하다.

셋째, 투명성 요구는 AI 기반 연구 결과의 신뢰성을 보장하는 핵심 요소이다. AI가 제안한 논리적 단계와 인간 연구자가 수행한 검증 단계 사이의 경계를 명확히 구분하고, 각각의 기여를 문서화하는 절차가 필수적이다. 이를 위해 모든 연구자는 AI 사용 여부를 명시하고, 프롬프트와 모델 출력 로그를 재현 가능하도록 보관해야 한다. 이러한 기록은 동료 검토 과정에서 검증 가능한 증거로 활용될 수 있으며, 연구 결과에 대한 의문이 제기될 경우 신속히 원인을 추적할 수 있게 한다. 투명성 확보를 위한 표준화된 보고 양식과 검증 프로토콜을 도입함으로써, AI와 인간의 협업이 혼동 없이 진행될 수 있다.

넷째, 독립 검증 절차는 AI가 만든 주장에 대한 신뢰성을 평가하는 데 필수적인 방어선이다. 특히 수학 분야에서는 하나의 오류가 전체 증명을 무효화할 수 있기 때문에, AI가 제시한 중간 결과나 최종 결론에 대해 별도의 검증 팀이 독립적으로 재현 실험을 수행해야 한다. 이 과정에서는 AI가 제공한 증명 단계와 인간이 직접 수행한 검증 단계가 교차 검증되어야 하며, 검증 결과는 공개적으로 기록되어야 한다. 이러한 독립 검증 메커니즘이 없을 경우, AI가 만든 잘못된 주장에 의해 연구 전체가 신뢰를 잃을 위험이 커진다.

다섯째, AI 활용에 따른 실용적 결과는 연구 효율성 향상과 동시에 새로운 윤리적·제도적 과제를 야기한다. AI가 일상적인 계산과 코드 검증을 가속화함으로써 연구자들은 보다 창의적인 문제 해결에 집중할 수 있게 되지만, 동시에 AI 기반 결과를 과도하게 마케팅하거나 자금 지원 기관을 오도하는 행위가 발생할 가능성이 있다. 따라서 연구기관은 AI가 만든 돌파구를 발표하기 전에 충분한 과학적 증거가 확보되었는지를 검증하는 내부 심사 절차를 마련하고, 과대광고를 방지하기 위한 가이드라인을 제정해야 한다. 이러한 제도적 장치는 AI 기술의 장점을 유지하면서도 연구 윤리를 보호한다.

여섯째, 궁극적인 목표는 AI를 수학 연구에서 배제하는 것이 아니라, 신용, 투명성, 자율성을 보존하면서 도구의 장점을 최적화하는 것이다. 이를 위해서는 AI 사용에 대한 명시적 규정과 함께, 인간 연구자의 역할을 명확히 정의하고, AI가 제안한 결과에 대해 독립적인 검증 인프라를 지속적으로 투자해야 한다. 또한, 교육 프로그램을 통해 연구자들이 AI 도구의 한계와 위험성을 충분히 인식하도록 함으로써, 무분별한 의존을 방지하고 책임 있는 활용 문화를 정착시킬 수 있다. 이러한 종합적인 접근은 최신 모델의 속도를 활용하면서도 수학적 발견의 신뢰성을 유지하는 데 필수적인 기반이 된다.

한국의 연구 기관들은 이 선언을 실천에 옮기기 위해 새로운 보고 양식을 도입하고, 책임 있는 AI 사용 교육을 실시하며, AI가 제안한 결과에 대한 독립 검증을 위한 자원을 배정해야 한다. 이를 통해 최신 모델의 속도를 활용하면서도 수학적 발견을 뒷받침하는 신뢰를 유지할 수 있다.