Base Labs、Hugging Face 与 Goodfire 推出开源模型安全标准倡议

2026年9月16日，Baseten 通过其研究部门 Base Labs 与模型托管平台 Hugging Face 以及专注可解释性研究的 Goodfire AI 正式宣布合作，三方将共同打造一个共享的安全评估框架，专门用于审查和监控公开发布且包含完整训练参数的开源模型的安全性。

Base Labs 在声明中指出，未来将公布一套覆盖模型训练阶段的安全防护措施以及部署后持续监控的方法，称之为“在模型训练与服务全流程中嵌入的透明标准”。该标准的核心目标是让安全检查贯穿模型生命周期的每一个环节，而不是在出现问题后才进行补救。

为何开放能够提升安全

合作方一致认为，公开模型权重能够显著提升对模型行为的可视性，使得独立研究者有机会对模型进行审计、测试并提出改进建议。可视性增强后，控制机制更易被检查，同时也能暴露在闭源部署环境中可能被隐藏的安全漏洞。

Goodfire 的主要职责聚焦在模型可解释性方面。虽然其具体技术细节尚未公开，但公司计划将内部捕获的模型信号——例如激活模式、梯度流动等——映射到更广泛的监控系统，以提升对异常输出或潜在不安全行为的检测能力。

Hugging Face 将贡献其庞大的模型库，目前平台已收录超过6000个开源模型。TechCrunch 报道，这些模型中不少已经通过一种称为“削减”(abliteration) 的技术去除了内置防护，这进一步凸显了外部安全审查的必要性。

2026 年国际 AI 安全报告的背景

《2026 年国际 AI 安全报告》指出了一个显著悖论：共享模型权重虽然能够加速科研进程、促进同行评审并提升审计效率，却也使得发布后对模型的强制性修改变得更加困难。一旦模型被广泛分发，控制其后续微调或在下游应用中的集成将面临日益增长的挑战。

报告进一步强调，针对开源模型的任何安全框架必须在源头（即训练阶段）和外围（即部署后持续监控）两个层面同步发挥作用，只有如此才能形成闭环的防护体系。

框架的关键要素

• 在模型代码中嵌入标准化的训练时安全检查
• 利用可解释性信号进行持续运行时监控
• 开源安全性能基准套件
• 社区驱动的新检测方法贡献平台
• 向模型使用者透明报告安全指标

合作方已向更广泛的 AI 生态系统发出征集邀请，鼓励研究者、开发者以及机构提交符合该标准的工具、数据集或评估协议。公告中未附带正式的基准、认证时间表或详细流程文件，显示出该倡议仍处于早期探索阶段。

Base Labs 与 Hugging Face 均强调，此次倡议的本质是协作而非强制。借助 Hugging Face 强大的开发者社区，合作伙伴希望能够快速迭代安全规范，将真实世界的反馈快速纳入到标准的演进过程中。

对于使用中文的组织而言，这一新框架带来的直接收益包括：在采购开源模型时拥有更明确的安全预期、获取可直接集成到现有流水线的共享监控工具，以及能够向监管机构或内部合规团队提供透明的审计记录。

值得注意的是，虽然目前尚未公布具体的认证流程，但合作方承诺将在未来的公开会议上披露详细的评估指标和合规路径，以帮助行业参与者更好地对齐安全目标。

此外，Goodfire 计划在后续的技术博客中分享其可解释性信号的提取方法，帮助社区理解如何将激活模式与安全监控相结合，从而提升对潜在风险的预警能力。

在全球范围内，越来越多的监管机构开始关注开源模型的安全治理。该倡议的出现正好契合了监管趋势，为企业提供了一条符合合规要求的技术路径。

最后，Base Labs、Hugging Face 与 Goodfire 表示，未来将继续开放合作渠道，欢迎更多平台和组织加入，共同构建一个更加安全、透明的开源模型生态系统。