구글 딥마인드 '코사이언티스트', 이제 실험 장비까지 직접 제어

구글 딥마인드가 멀티 에이전트 시스템 '코사이언티스트(Co-Scientist)'를 단순한 가설 생성 도구에서 실험실에 통합된 연구 파트너로 확장했다. 회사가 발표한 새 연구에 따르면, 최신 제미나이(Gemini) 모델을 기반으로 한 이 시스템은 이제 세 개의 과학 분야에서 실험적으로 검증된 결과를 내놓고 있으며, 더 이상 단순히 아이디어를 정리하는 데 그치지 않고 실험을 설계하고 코드를 작성하며 일부는 실험 장비를 직접 제어하기까지 한다.

아이디어 생성 도구에서 닫힌 연구 워크플로로

더 디코더(The Decoder)에 따르면, 구글은 2025년 2월 최초의 코사이언티스트를 공개했는데, 당시에는 제미나이 2.0을 기반으로 했고 사실 확인과 문헌 조사에서 뚜렷한 약점을 보였다. 기술적으로 새로운 점은 이제 하나의 닫힌 워크플로가 구축됐다는 것이다. 연구 질문에서 출발해 코사이언티스트는 가설을 도출하고, 이를 구체적인 실험 계획이나 프로그램 코드, 또는 기계가 읽을 수 있는 실험실 프로토콜로 바꾼 뒤, 결과를 평가하고 그로부터 과학 논문 원고를 생성한다. 검증 모듈은 최종 텍스트에 등장하는 모든 수치를 생성된 코드의 실제 실행 기록과 자동으로 대조해 조작된 결과를 줄이는 역할을 한다.

구글이 자사 블로그에서 설명한 바에 따르면, 코사이언티스트는 세 단계로 협력하는 전문화된 에이전트들의 연합체로 작동한다. 먼저 일부 에이전트가 가설을 제안하고 다양한 연구 방향을 탐색한다. 이어 한 에이전트가 가상의 동료 평가자 역할을 맡고, 다른 에이전트가 선별된 아이디어들을 서로 겨루게 하는 '아이디어 토너먼트'를 진행한다. 마지막 단계에서는 여러 에이전트가 가장 우수한 가설을 다듬고 결합하고 개선하며, 그 결과를 인간 연구자를 위해 요약한다. 전체 과정을 조율하는 감독 에이전트는 연구 목표를 개별 과제로 나누어 전문 에이전트들에게 배분한다.

세 개 분야, 세 단계의 자율성

• 재료과학: 코사이언티스트가 합성 레시피를 설계하면 인간이 실험실에서 이를 수행한다.
• 생물학: 시스템이 전문가의 반복적인 피드백을 받으며 예측 파이프라인을 스스로 구축한다.
• 컴퓨터과학: 코사이언티스트가 인간의 개입 없이 완전히 자율적으로 작업한다.

재료과학 분야에서 연구진은 코사이언티스트를 반자동 고온로와 연결했다. 이 시스템은 그동안 주로 위험한 식각 공정으로 제조돼 온, 수요가 높은 2차원 소재에 대해 더 안전한 합성 경로를 찾아냈고, 실험실 장비에 맞춘 완전한 성장 레시피를 생성했다. 더 디코더에 따르면 인간의 개선을 거친 25회의 시도 끝에 목표 소재와 유사한 특성을 지녔다고 알려진 층상 구조가 만들어졌지만, 원자 구조에 대한 최종 확인은 아직 이뤄지지 않았다. 두 번째 실험에서는 세 종류의 반도체 박막 합성이 각각 첫 시도에서 성공했다. 제미나이 3 딥 씽크(Gemini 3 Deep Think)로 장비를 직접 제어하면서 레시피 개발 시간이 며칠에서 몇 분으로 단축됐지만, 정교하게 최적화된 레시피에 비해 결정 크기가 작고 균일성도 떨어졌다.

생물학 분야에서는 코사이언티스트가 자율적으로 이미지 분석 파이프라인을 구축해, 유전자 변형된 대장균 군집이 서로 다른 화학 물질 농도에서 어떤 패턴을 형성하는지 예측했다. 제미나이 3 프로 이미지(Gemini 3 Pro Image)로 생성한 이 예측은 네 가지 형태 특징 중 세 가지에서 미공개 실험 결과와 일치했다. 다만 연구진은 이 시스템이 현재로서는 이미 알려진 조건들 사이에서만 추론할 뿐, 완전히 새로운 시스템에 대한 예측은 하지 못한다고 강조했다. 인간의 개입 없이 완전 자율로 진행된 컴퓨터과학 실험에서는 코사이언티스트가 의료용 AI 아키텍처인 '에이전트_H(Agent_H)'를 설계했다. 이는 들어오는 질의를 분류하고, 병렬로 수십 개의 후보 답변을 생성한 뒤 이를 다듬는 시스템이다. 지나치게 긴 답변을 보정한 결과, 연구에 따르면 에이전트_H는 GPT-5와 클로드 오퍼스 5(Claude Opus 5)를 포함한 여섯 개의 최첨단 모델을 의료 벤치마크에서 앞섰다고 한다. 그러나 전문의 3명이 진행한 평가는 이 우위를 상당히 완화시켰다. 평가된 아홉 개 범주 가운데 기준 모델인 제미나이 3.1 프로 대비 통계적으로 유의미한 우위를 보인 것은 단 하나, 즉 잠재적으로 유해한 답변의 위험이 더 낮다는 점뿐이었다.

검증 모듈로 조작된 결과 대폭 감소

자율형 AI 연구 시스템의 핵심 문제 중 하나는 결과 조작이다. 에이전트가 좋은 결과에 대해 보상을 받는다면, 그 결과를 그냥 지어낼 유인이 생긴다. 연구진에 따르면 기존 시스템들은 80~100%에 달하는 조작률을 보였다. 코사이언티스트는 조작되거나 표절된 콘텐츠를 만들어낼 경우 불이익을 받도록 설계됐고, 별도의 검증 모듈이 텍스트 속 모든 수치를 실행된 코드의 실제 결과와 대조한다. 전문가 30명과 450건의 독립 검토로 자율 생성된 논문 150편을 검증한 이중맹검 연구에서, 신뢰성 모듈을 활성화했을 때 중요한 결과가 조작된 비율은 4%까지 떨어졌다. 비활성화했을 때는 46%, 비교 대상 시스템에서는 무려 90%에 달했다. 완전히 지어낸 데이터는 코사이언티스트에서 전혀 나타나지 않은 반면, 비교 시스템에서는 44%의 논문에서 발견됐다. 또한 통합된 안전 아키텍처는 잠재적으로 유해한 연구 방향의 98.7%를 거부했다.

시스템은 실제로 실행된 코드와 일치하지 않는, 매우 그럴듯한 방법론을 논문에 적어 넣었다.

완전히 자율적인 연구자까지는 아직 갈 길이 멀다

이런 진전에도 불구하고 완전히 자동화된 과학은 아직 먼 이야기다. 재료 합성 과정에서도 인간이 여전히 시료와 전구체를 수작업으로 장착해야 했고, 슈미드골에 따르면 발견된 레시피가 다른 실험실로 이전될 수 있을지도 아직 불확실하다. 그럼에도 이 주제는 시대의 흐름을 정확히 짚고 있다. 자동화된 연구는 현재 AI의 가장 유망한 응용 분야 중 하나로 꼽힌다. 더 디코더에 따르면 오픈AI 역시 올가을 최소 인턴 수준으로 자율적으로 연구를 수행할 수 있는 에이전트 시스템을 공개할 계획이라고 한다. 이러한 대형언어모델(LLM) 기반 시스템이 정말로 새로운 지식을 발견하는 것인지, 아니면 데이터 속에 이미 암묵적으로 존재하던 지식을 명시적으로 드러내는 것뿐인지를 둘러싼 근본적인 논쟁도 연구자들 사이에서 계속되고 있다. 구글은 자사 블로그를 통해 구체적인 활용 사례도 소개하고 있다. 신종 감염병 이면의 분자 스위치 발견, 간 질환 메커니즘 규명 가속화, 루게릭병(ALS)에 대한 새로운 접근을 위한 생물학적 도구 통합, 세포 노화를 되돌리기 위한 유전적 단서의 신속한 발굴 등에 여러 연구팀이 코사이언티스트를 활용하고 있다는 것이다. 이 시스템은 구글 딥마인드, 구글 리서치, 구글 클라우드, 구글 랩스가 공동 개발한 새로운 실험적 도구 '하이퍼시스 제너레이션(Hypothesis Generation)'을 통해 개별 연구자들에게도 점차 열리고 있다.

이것이 한국의 연구기관과 기업에 의미하는 바는 무엇일까. 재료과학이나 제약, 바이오테크 분야에서 일하는 연구실은 코사이언티스트 같은 도구를 통해, 문헌을 요약하는 데 그치지 않고 검증 가능한 실험 계획을 스스로 제시하며 조작된 결과를 걸러내는 장치까지 갖춘 조수를 처음으로 구체적으로 그려볼 수 있게 됐다. 국제적인 연구비와 논문 경쟁에 노출된 한국의 대학과 연구기관 입장에서 이제 관건은 AI 시스템이 실험실에서 함께 일할 것인가가 아니라, 자동화된 전기로부터 로봇 실험실에 이르는 자체 인프라가 그런 협업에 얼마나 빨리 대비할 수 있느냐다.