安全與風險國際

Base Labs、Hugging Face 與 Goodfire 推出開放權重 AI 安全標準倡議

2026 年 9 月 16 日，Base Labs、Hugging Face 與 Goodfire 宣布合作，建立透明的開放權重模型安全評估基礎設施，將開放性轉化為安全優勢。

nullbot 編輯部發布於 2026年9月18日閱讀約 3 分鐘資料來源 (2)

2026 年 9 月 16 日，Baseten 公布了一項合作，結合其研究部門 Base Labs、模型託管平台 Hugging Face 與可解釋性專家 Goodfire AI。三家機構計畫共同打造一套評估與監控開放權重 AI 模型安全性的共享框架，這類模型會公開其訓練參數。

Base Labs 表示將發布訓練階段的安全防護措施與部署後的監控方法，稱此舉為「透明標準，直接嵌入模型的訓練與服務流程」。其目標是將安全檢查內建於模型生命週期，而非事後補救。

為何開放性可提升安全性

合作夥伴認為，公開模型權重能提升對模型行為的可見度，讓獨立研究者得以審核、測試並提出改進建議。根據合作聲明，這種可見性使控制機制更易檢查，並能揭露在封閉式部署中可能被隱藏的漏洞。

Goodfire 的角色聚焦於模型可解釋性。雖然具體技術貢獻尚未公開，但公司計畫將內部模型訊號（例如活化模式與梯度流）連結至更廣泛的監控系統，提升偵測異常或不安全輸出的能力。

Hugging Face 提供其龐大的模型倉庫，目前已列出超過 6,000 個開放權重模型。TechCrunch 指出，許多模型已透過稱為「abliteration」的技術移除內建防護，凸顯外部安全檢查的必要性。

《國際 AI 安全報告 2026》指出一個悖論：雖然共享模型權重能加速研究、同行評審與審核能力，但也使得發布後的修改執行變得更為複雜。模型一旦散佈，對其微調或整合至下游應用的控制難度隨之提升。

報告強調，任何針對開放權重模型的安全框架必須同時在源頭（訓練階段）與周邊（部署後持續監控）發揮作用。

此合作計畫已向更廣大的 AI 生態系發出徵集，邀請研究人員、開發者與組織提交符合標準的工具、資料集或評估流程。公告中未同時釋出正式的基準、認證時間表或詳細程序文件。

Base Labs 與 Hugging Face 均強調，此倡議旨在協作而非規範。藉由 Hugging Face 社群的開發者力量，夥伴希望能快速迭代，將實務回饋納入不斷演進的安全規範中。

對於台灣及其他中文使用的組織而言，這一新興框架可帶來具體效益：在採購開放權重模型時能獲得更清晰的安全期待、取得可整合至現有管線的共享監控工具，並擁有可向主管機關或內部合規團隊展示的透明稽核軌跡。

儘管三方已提出具體的技術路線圖，實際落地仍面臨資源分配、跨平台標準統一以及法律合規的多重挑戰。特別是在不同司法管轄區對 AI 風險的定義差異，可能影響框架的全球適用性。

此外，開放權重模型的持續更新頻率高，如何在不影響模型效能的前提下，保持安全檢查的即時性與準確性，是下一階段研究的重點。

業界觀察者認為，若能成功結合透明度與安全性，將為 AI 產業樹立新標準，促進公眾信任，同時降低因模型濫用而產生的社會風險。

本地化說明：此篇報導於 2026 年 9 月 18 日於《L'actu IA》國際版發佈，特別為台灣讀者提供繁體中文翻譯，確保資訊傳遞的完整與精準。