IBM Bob 在 OpenShift 上实现自托管，支持完全隔离的编码代理部署

2026年9月24日，IBM宣布其代理式开发平台Bob已正式进入通用可用阶段，并提供自托管部署方案。这是该平台首次可以在客户自己的Red Hat OpenShift集群内部运行，而不再局限于仅在云端提供服务。IBM将此举定位为对那些需要更严格的数据控制、模型授权管理以及网络暴露限制的企业的响应，同时仍希望利用大语言模型驱动的代码辅助功能。换言之，IBM希望在保证内部安全的前提下，仍然让开发团队受益于AI生成的代码建议。

IBM Bob 是什么以及向自托管的转变

Bob被IBM营销为“代理式开发平台”，这意味着它将生成式AI代理直接嵌入软件开发工作流中。这些代理能够实时提供代码建议、重构代码片段，并回答技术问题。通过从纯SaaS模式转向自托管模式，IBM旨在让组织能够将所有提示、响应以及审计日志保存在自己的安全边界内。平台的核心主张包括内置身份管理、将请求路由到选定模型的推理网关、全面的审计日志记录以及可与内部成本分摊系统关联的使用计量功能。整体来看，这些特性帮助企业在内部完整控制AI交互的全流程。

在 Red Hat OpenShift 上运行 Bob

在自托管配置下，Bob作为命名空间工作负载运行在组织的OpenShift集群中。每个部署都位于独立的Kubernetes命名空间内，从而将资源与其他工作负载隔离，同时共享底层集群基础设施。该工作负载包含四个主要服务：一个身份组件用于对接企业目录进行用户认证，一个推理网关将提示转发给所选模型提供商，一个审计日志服务记录每一次请求和响应，以及一个使用计量服务汇总令牌消耗以生成报告。IBM指出，名为bobctl的安装程序将集群级管理员任务（如创建命名空间和配置基于角色的访问控制）与每个命名空间的安装步骤分离，从而简化大型IT团队的治理流程。

模型连接与完全隔离部署

客户可以通过自己的AWS Bedrock、Azure OpenAI、Google Vertex AI账户或任何兼容OpenAI的端点，将Bob连接到获批的前沿模型。对于需要完全隔离堆栈的组织，IBM同样支持在本地GPU上运行开源模型。公司特别提到NVIDIA的Nemotron 3 Ultra以及Poolside Laguna S 2.1作为支持的本地模型，使推理过程能够完全留在数据中心内部。bobctl安装程序能够将所有容器镜像镜像到私有仓库，这是没有互联网访问的隔离网络的前提条件。企业身份集成支持LDAP或Active Directory，使现有用户组能够直接继承Bob的权限，无需额外的凭证存储。综合这些功能，部署可以在不触及公共互联网的情况下，为开发者提供最新的大语言模型访问能力。

传输更新与可扩展性

9月发布的版本还放弃了传统的HTTP + SSE MCP传输，转而采用更新的可流式HTTP变体，IBM称其能够提升高吞吐量编码会话的延迟和可靠性。后台进程被加入用于处理模型预热和缓存管理，且不会阻塞用户请求。最后，Bob现在支持插件目录，允许第三方扩展放入指定文件夹后在运行时自动被发现。此扩展点旨在让企业在不修改平台核心的情况下，添加自定义的代码检查工具、安全扫描器或领域特定知识库。

• 在 Red Hat OpenShift 上的命名空间工作负载，资源相互隔离
• 通过 LDAP 或 Active Directory 实现身份集成
• 支持云端前沿模型以及本地 GPU 推理（NVIDIA Nemotron 3 Ultra、Poolside Laguna S 2.1）
• bobctl 安装程序支持私有仓库镜像，适用于隔离环境
• 可流式 HTTP 传输、后台进程以及插件目录的可扩展性

对于美国及其他地区的组织而言，全新的自托管选项意味着他们可以在自己的安全边界内运行 IBM Bob，连接到已有信任的模型提供商，甚至在需要时保持整个堆栈离线。此举消除了将专有代码片段发送至外部 SaaS 端点的需求，同时仍然提供生成式 AI 编码助手所承诺的生产力提升。已经在 Red Hat OpenShift 或本地 GPU 集群上投入的企业因此可以直接采用 Bob，无需额外的基础设施，并立即受益于 IBM 的审计和计量功能，以满足合规报告的要求。