Cohere, 다중 단계 워크플로를 지원하는 오픈 모델 기업 에이전트 오케스트레이션 플랫폼 ‘North 2’ 출시

Cohere는 2026년 10월 6일 가상 행사에서 North 2를 발표하며, 복잡하고 다단계 비즈니스 프로세스를 자동화하는 AI 기반 에이전트를 구축·관리·재사용할 수 있는 통합 환경으로 포지셔닝했다.

핵심 기능 및 아키텍처

플랫폼은 지속적인 메모리 저장소, 재사용 가능한 코드 스니펫 라이브러리, 스킬 카탈로그, 보고서·대시보드·맞춤형 애플리케이션 생성 도구 등을 결합한다. 에이전트를 한 번 설정하면 여러 사용자나 하위 프로세스가 호출할 수 있어 중복 작업을 크게 줄인다.

North 2는 의도적으로 모델‑중립적으로 설계되었다. Cohere 자체 대형 언어 모델을 제공하면서도 고객은 호환 가능한 어떤 모델이든 가져와 사용할 수 있어, 자체 혹은 타사 AI 엔진을 Cohere와 함께 활용할 수 있다.

배포 유연성

Cohere는 North 2가 프라이빗 클라우드, 가상 사설 클라우드(VPC), 하이브리드 아키텍처, 온프레미스, 혹은 외부 네트워크 접근이 전혀 없는 완전 격리 환경에서도 실행될 수 있다고 강조한다. 이러한 옵션은 규제 및 데이터 주권 문제로 AI 도입이 어려웠던 고규제 산업에 특히 중요하다.

• Slack – 실시간 메시징 및 워크플로 트리거
• SharePoint, OneDrive, Outlook, Exchange – 문서·이메일 연동
• Jira, Linear – 이슈 트래킹·프로젝트 관리 훅
• Notion, GitHub – 지식베이스·코드 저장소 연결

거버넌스와 비용 관리

동반 관리 콘솔인 North Admin을 통해 관리자는 예산 상한선 설정, 요청 속도 제한, 사용자·조직별 할당량 지정, 세부 권한 정의 등을 할 수 있다. 데이터 삭제나 외부 API 호출 같은 중요한 작업은 수동 승인 절차를 두어 안전성을 확보한다.

Cohere는 또한 SOC 2 Type II, ISO 27001, ISO 42001 인증을 보유하고 있어 보안 성숙도가 높음을 입증한다. 파트너로는 LG CNS와 Bell Cyber가 초기 도입 사례로 언급되었다.

내부 테스트에서는 NVIDIA Blackwell 및 Hopper GPU에서 다단계 에이전트 파이프라인을 실행할 때 효율성 향상이 관측됐지만, 구체적인 수치는 공개되지 않았다.

에이전트를 프로젝트 간 재사용할 수 있는 능력은 개발 시간을 크게 단축시킬 것으로 기대된다. 팀은 계약 검토 봇이나 티켓 분류 어시스턴트와 같은 검증된 에이전트 라이브러리를 구축하고, 이를 새로운 워크플로에 코드 재작성 없이 조합할 수 있다.

이미 격리된 혹은 에어갭 환경에서 운영 중인 조직에게 North 2는 완전 오프라인 배포를 지원함으로써, 중앙 집중식 거버넌스와 버전 관리를 유지하면서도 생성형 AI 도입 장벽을 해소한다.

North 2가 제공하는 모델‑중립 설계는 기업이 기존에 보유하고 있던 다양한 대형 언어 모델을 그대로 활용하면서도 Cohere의 에이전트 오케스트레이션 기능을 결합할 수 있게 한다. 이로 인해 모델 선택에 대한 제약이 해소되고, 기존 투자 자산을 포기하지 않아도 되는 점이 핵심적인 이점으로 작용한다. 다만, 모델 간 인터페이스 표준화가 완전하지 않을 경우, 일부 기능에서 호환성 문제가 발생할 가능성이 존재한다는 점을 인식해야 한다. 따라서 운영 단계에서 모델별 성능 차이를 지속적으로 모니터링하고, 필요 시 어댑터 레이어를 추가하는 보완 작업이 요구된다.

플랫폼의 지속적인 메모리 저장소와 재사용 가능한 코드 스니펫 라이브러리는 에이전트 간 상태 공유와 로직 재활용을 가능하게 한다. 이러한 구조는 복잡한 다단계 워크플로에서 중복 작업을 최소화하고, 개발 주기를 단축시키는 효과를 제공한다. 그러나 메모리 관리와 스니펫 버전 관리가 미흡할 경우, 오래된 로직이 의도치 않게 재사용되어 오류를 유발할 위험이 있다. 따라서 North Admin 콘솔을 통한 정기적인 코드 검토와 메모리 정리 정책 수립이 실질적인 안정성을 확보하는 데 필수적이다.

배포 유연성 측면에서 North 2는 프라이빗 클라우드, VPC, 하이브리드, 온프레미스, 완전 격리 환경까지 지원한다는 점에서 규제가 엄격한 산업군에 큰 매력을 제공한다. 이러한 옵션은 데이터 주권과 보안 요구사항을 충족시키면서도 AI 기능을 내부에 국한시킬 수 있게 한다. 반면, 격리된 네트워크에서는 외부 업데이트나 패치 적용이 제한될 수 있어, 최신 모델이나 보안 패치를 적용하기 위한 별도 절차가 필요하다. 따라서 운영팀은 업데이트 주기와 배포 전략을 사전에 정의하고, 오프라인 환경에서도 안전하게 적용할 수 있는 자동화된 스크립트를 마련해야 한다.

거버넌스와 비용 관리 기능은 예산 상한선, 요청 속도 제한, 조직별 할당량 등을 세부적으로 제어함으로써 과다 사용을 방지하고 비용 효율성을 높인다. 특히 중요한 작업에 수동 승인 절차를 도입함으로써 보안 위험을 최소화한다. 다만, 승인 프로세스가 과도하게 복잡해지면 업무 흐름이 지연될 위험이 존재한다. 따라서 승인 단계별 권한을 명확히 정의하고, 자동화 가능한 부분은 최소한의 인적 개입으로 전환하는 것이 운영 효율성을 유지하는 데 중요하다.

내부 테스트에서 GPU 가속을 활용한 다단계 에이전트 파이프라인이 효율성 향상을 보였다는 점은 실제 운영 환경에서도 성능 개선 기대치를 뒷받침한다. 그러나 구체적인 수치가 공개되지 않았기 때문에, 실제 적용 시 기대치와 차이가 발생할 가능성이 있다. 이를 보완하기 위해서는 사전 파일럿 테스트를 통해 자체 워크로드에 대한 벤치마크를 수행하고, 결과를 기반으로 리소스 할당과 비용 모델을 조정하는 절차가 필요하다.

에이전트 재사용 가능성은 개발 시간 단축과 유지보수 비용 감소에 직접적인 영향을 미친다. 검증된 에이전트 라이브러리를 새로운 워크플로에 그대로 조합함으로써 코드 재작성 없이도 빠르게 서비스를 출시할 수 있다. 그러나 재사용된 에이전트가 최신 정책이나 규정 변화에 자동으로 반영되지 않을 경우, 컴플라이언스 위반 위험이 발생한다. 따라서 에이전트 버전 관리와 정책 업데이트 자동화 메커니즘을 구축하여, 재사용 시에도 항상 최신 기준을 적용할 수 있도록 하는 것이 실무적인 지속 가능성을 확보하는 핵심 전략이다.

전반적으로 North 2는 한국어를 사용하는 기업에게도 단일하고 안전한 인터페이스를 제공해 AI 에이전트를 오케스트레이션하고 정책을 적용하며 비용을 관리할 수 있게 한다. 퍼블릭 클라우드, 프라이빗 데이터센터, 완전 격리 네트워크 어느 환경에서도 활용 가능하다.