IBM Bob 在 OpenShift 上實現自托管，支援完全隔離的程式碼代理部署

2026年9月24日，IBM 宣佈其代理式開發平台 Bob 已正式進入通用可用階段，並提供自托管部署方案。這是平台首次能在客戶自己的 Red Hat OpenShift 叢集內部執行，而不再僅限於雲端服務。IBM 將此舉定位為回應那些需要更嚴格資料控制、模型授權管理以及網路暴露限制的企業，同時仍希望利用大型語言模型驅動的程式碼協助功能。換句話說，IBM 旨在於確保內部安全的同時，讓開發團隊受惠於 AI 生成的程式碼建議。

IBM Bob 是什麼以及向自托管的轉變

Bob 被 IBM 行銷為「代理式開發平台」，這表示它將生成式 AI 代理直接嵌入軟體開發工作流程中。這些代理能即時提供程式碼建議、重構程式碼片段，並回答技術問題。透過從純 SaaS 模式轉向自托管模式，IBM 旨在讓組織能將所有提示、回應以及稽核日誌保存在自己的安全邊界內。平台的核心主張包括內建身分管理、將請求路由至選定模型的推論閘道、完整的稽核日誌記錄，以及可與內部成本分攤系統關聯的使用計量功能。整體而言，這些特性協助企業在內部完整控制 AI 互動的全流程。

在 Red Hat OpenShift 上執行 Bob

在自托管配置下，Bob 作為命名空間工作負載運行於組織的 OpenShift 叢集內。每個部署都位於獨立的 Kubernetes 命名空間中，從而將資源與其他工作負載隔離，同時共享底層叢集基礎設施。此工作負載包含四個主要服務：一個身分元件用於對接企業目錄進行使用者驗證，一個推論閘道將提示轉發給所選模型供應商，一個稽核日誌服務記錄每一次請求與回應，以及一個使用計量服務彙總令牌消耗以產生報告。IBM 指出，名為 bobctl 的安裝程式將叢集層級管理者任務（如建立命名空間與設定基於角色的存取控制）與每個命名空間的安裝步驟分離，從而簡化大型 IT 團隊的治理流程。

模型連接與完全隔離部署

客戶可以透過自己的 AWS Bedrock、Azure OpenAI、Google Vertex AI 帳戶或任何相容 OpenAI 的端點，將 Bob 連接至已批准的前沿模型。對於需要完全隔離堆疊的組織，IBM 也支援在本地 GPU 上執行開源模型。公司特別提到 NVIDIA 的 Nemotron 3 Ultra 以及 Poolside Laguna S 2.1 作為支援的本地模型，使推論過程能完全留在資料中心內部。bobctl 安裝程式能將所有容器映像鏡像至私有倉庫，這是沒有網際網路存取的隔離網路的前提條件。企業身分整合支援 LDAP 或 Active Directory，使現有使用者群組能直接繼承 Bob 的權限，無需額外的憑證儲存。綜合這些功能，部署可以在不觸及公共網際網路的情況下，為開發者提供最新的大型語言模型的存取能力。

傳輸更新與可擴充性

9 月發佈的版本亦放棄了傳統的 HTTP + SSE MCP 傳輸，改採更新的可串流 HTTP 變體，IBM 表示此舉能提升高吞吐量編碼會話的延遲與可靠性。後台程序被加入以處理模型預熱與快取管理，且不會阻塞使用者請求。最後，Bob 現在支援插件目錄，允許第三方擴充套件放入指定資料夾後於執行時自動被偵測。此擴充點旨在讓企業在不修改平台核心的情況下，加入自訂的程式碼檢查工具、安全掃描器或領域特定知識庫。

• 在 Red Hat OpenShift 上的命名空間工作負載，資源相互隔離
• 透過 LDAP 或 Active Directory 實現身分整合
• 支援雲端前沿模型以及本地 GPU 推論（NVIDIA Nemotron 3 Ultra、Poolside Laguna S 2.1）
• bobctl 安裝程式支援私有倉庫鏡像，適用於隔離環境
• 可串流 HTTP 傳輸、後台程序以及插件目錄的可擴充性

對於美國及其他地區的組織而言，全新的自托管選項意味著他們現在可以在自己的安全邊界內執行 IBM Bob，連接至已信任的模型供應商，甚至在需要時保持整個堆疊離線。此舉消除了將專有程式碼片段傳送至外部 SaaS 端點的需求，同時仍提供生成式 AI 編碼助理所承諾的生產力提升。已在 Red Hat OpenShift 或本地 GPU 叢集上投資的企業因此可以直接採用 Bob，無需額外基礎設施，並立即受惠於 IBM 的稽核與計量功能，以滿足合規報告的要求。