IBM Bob, OpenShift에서 자체 호스팅으로 전환, 완전 에어갭 코딩 에이전트 배포 지원

2026년 9월 24일, IBM은 Bob 에이전트 개발 플랫폼이 일반 제공(GA) 단계에 도달했으며, 이제 자체 호스팅 솔루션으로 배포할 수 있다고 공식 발표했습니다. 이번 발표는 플랫폼을 고객 자체의 Red Hat OpenShift 클러스터 내에서 실행할 수 있게 된 최초 사례이며, 클라우드 전용 서비스에서 벗어난 중요한 전환점으로 평가됩니다. IBM은 이 움직임을 데이터, 모델 라이선스 및 네트워크 노출에 대한 보다 엄격한 제어가 필요한 기업들이 여전히 대규모 언어 모델(LLM) 기반 코딩 지원을 활용하고자 하는 요구에 부응하는 전략이라고 설명했습니다.

IBM Bob이란 무엇이며 자체 호스팅으로의 전환

Bob은 IBM이 "에이전트형 개발 플랫폼"이라고 마케팅하는 제품으로, 생성 AI 에이전트를 소프트웨어 개발 워크플로에 직접 삽입합니다. 이러한 에이전트는 코드 제안, 스니펫 리팩터링, 실시간 기술 질문 답변 등을 수행할 수 있습니다. 순수 SaaS 제공에서 자체 호스팅 모델로 전환함으로써, 조직은 모든 프롬프트, 응답 및 감사 로그를 자체 보안 경계 안에 보관할 수 있게 됩니다. 플랫폼의 핵심 주장에는 내장된 아이덴티티 관리, 선택된 모델로 요청을 라우팅하는 추론 게이트웨이, 포괄적인 감사 로깅, 그리고 내부 청구 시스템과 연동 가능한 사용량 측정 기능이 포함됩니다.

Red Hat OpenShift에서 Bob 실행

자체 호스팅 구성에서 Bob은 조직의 OpenShift 클러스터 내 네임스페이스에 워크로드로 배치됩니다. 각 배포는 자체 Kubernetes 네임스페이스에 존재하여 다른 워크로드와 리소스를 격리하면서도 기본 클러스터 인프라를 공유합니다. 이 워크로드는 네 가지 주요 서비스로 구성됩니다: 기업 디렉터리와 연동해 사용자를 인증하는 아이덴티티 컴포넌트, 선택된 모델 제공자에게 프롬프트를 전달하는 추론 게이트웨이, 모든 요청과 응답을 기록하는 감사 로깅 서비스, 그리고 토큰 사용량을 집계해 보고하는 사용량 측정 서비스입니다. IBM은 bobctl이라는 설치 프로그램이 클러스터 전체 관리자 작업(네임스페이스 생성 및 RBAC 구성)과 네임스페이스별 설치 단계를 분리하여 대규모 IT 팀의 거버넌스를 단순화한다고 강조했습니다.

모델 연결 및 에어갭 배포

고객은 AWS Bedrock, Azure OpenAI, Google Vertex AI 또는 OpenAI 호환 엔드포인트와 같은 자체 클라우드 계정을 통해 승인된 최첨단 모델에 Bob을 연결할 수 있습니다. 완전히 격리된 스택이 필요한 조직을 위해 IBM은 온프레미스 GPU에서 오픈 웨이트 모델을 실행하는 옵션도 제공합니다. 특히 NVIDIA의 Nemotron 3 Ultra와 Poolside Laguna S 2.1이 완전 격리 경로에서 지원되며, 추론이 데이터 센터 내부에 머물도록 설계되었습니다. bobctl 설치 프로그램은 모든 컨테이너 이미지를 프라이빗 레지스트리로 미러링할 수 있어, 인터넷 접속이 차단된 에어갭 네트워크에 필수적인 전제 조건을 만족합니다. 기업 아이덴티티 통합은 LDAP 또는 Active Directory와 연동되어 기존 사용자 그룹이 추가 인증 저장소 없이 Bob 권한을 상속받을 수 있습니다. 이러한 기능을 통해 공용 인터넷에 전혀 접속하지 않으면서도 최신 대규모 언어 모델에 대한 접근성을 개발자에게 제공하는 배포가 가능해집니다.

전송 방식 업데이트 및 확장성

9월 릴리스에서는 기존 HTTP + SSE MCP 전송 방식을 폐기하고, 새로운 Streamable HTTP 변형을 도입했습니다. IBM은 이 새로운 전송 방식이 고처리량 코딩 세션에서 지연 시간과 신뢰성을 향상시킨다고 설명했습니다. 백그라운드 프로세스가 추가되어 모델 워밍업 및 캐시 관리가 사용자 요청을 차단하지 않고 수행됩니다. 마지막으로 Bob은 플러그인 디렉터리를 지원하여 서드파티 확장을 지정 폴더에 배치하면 런타임에 자동으로 탐지됩니다. 이 확장 포인트는 기업이 코어 플랫폼을 수정하지 않고도 맞춤형 린터, 보안 스캐너, 도메인 특화 지식 베이스 등을 추가할 수 있도록 설계되었습니다.

• Red Hat OpenShift에서 네임스페이스 워크로드로 리소스 격리
• LDAP 또는 Active Directory를 통한 아이덴티티 통합
• 클라우드 호스팅 최첨단 모델 및 온프레미스 GPU 추론 지원(NVIDIA Nemotron 3 Ultra, Poolside Laguna S 2.1)
• 에어갭 환경을 위한 프라이빗 레지스트리 미러링 기능을 갖춘 bobctl 설치 프로그램
• Streamable HTTP 전송, 백그라운드 프로세스 및 플러그인 디렉터리 확장성

미국 및 전 세계 조직에게 새로운 자체 호스팅 옵션은 IBM Bob을 자체 보안 경계 내에서 실행하고, 이미 신뢰하는 모델 제공자와 연결하며, 필요 시 전체 스택을 오프라인 상태로 유지할 수 있음을 의미합니다. 이 전환은 외부 SaaS 엔드포인트로 독점 코드 스니펫을 전송할 필요성을 없애면서도, 생성 AI 코딩 어시스턴트가 제공하는 생산성 향상을 유지하고 데이터 보호 및 규정 준수 요구 사항을 충족시킵니다. Red Hat OpenShift나 온프레미스 GPU 클러스터에 이미 투자한 기업은 추가 인프라 없이 Bob을 도입할 수 있으며, IBM의 감사 및 메터링 기능을 즉시 활용해 컴플라이언스 보고서를 작성할 수 있습니다.