Base Labs, Hugging Face und Goodfire lancieren offenen KI‑Sicherheitsstandard

Am 16. September 2026 kündigte Baseten die Kooperation seiner Forschungseinheit Base Labs mit der Modell‑Hosting‑Plattform Hugging Face sowie dem Spezialisten für Modell‑Interpretierbarkeit Goodfire AI an. Gemeinsam wollen die drei Akteure ein einheitliches Rahmenwerk entwickeln, das die Sicherheit offener Gewichts‑KI‑Modelle bewertet und kontinuierlich überwacht, sobald diese Modelle mit ihren vollständigen Trainingsparametern öffentlich bereitgestellt werden.

Base Labs betont, dass Sicherheitsmechanismen sowohl während des Trainings als auch nach dem Deployment implementiert werden. Das Projekt wird als ein „transparenter Standard, der in den Trainings‑ und Bereitstellungsprozess integriert ist“ beschrieben, mit dem Ziel, Sicherheitsprüfungen von vornherein in den gesamten Modell‑Lebenszyklus zu verankern, anstatt sie nachträglich anzuhängen.

Warum Offenheit die Sicherheit stärken kann

Die Partner argumentieren, dass die öffentliche Bereitstellung von Modellgewichten die Sichtbarkeit des Verhaltens erhöht und unabhängigen Forschern ermöglicht, Audits durchzuführen, Tests zu starten und Verbesserungen vorzuschlagen. Laut der Partnerschaft macht diese Transparenz Kontrollmechanismen prüfbarer und kann Schwachstellen aufdecken, die in geschlossenen Systemen verborgen bleiben würden.

Goodfire konzentriert sich auf die Interpretierbarkeit von Modellen. Obwohl die genauen technischen Beiträge nicht offengelegt wurden, plant das Unternehmen, interne Modellsignale – etwa Aktivierungsmuster und Gradientenflüsse – an das übergeordnete Überwachungssystem anzubinden, um anomale oder unsichere Ausgaben besser zu erkennen.

Hugging Face bringt sein umfangreiches Modell‑Repository ein, das derzeit über 6 000 offene Gewichts‑Modelle listet. TechCrunch weist darauf hin, dass bei vielen dieser Modelle die eingebauten Schutzmechanismen durch ein Verfahren namens „Abliteration“ entfernt wurden, was den Bedarf an robusten externen Sicherheitsprüfungen unterstreicht.

Kontext aus dem Internationalen KI‑Sicherheitsbericht 2026

Der Internationale KI‑Sicherheitsbericht 2026 hebt ein Paradoxon hervor: Während das Teilen von Modellgewichten Forschung, Peer‑Review und Prüfungsfähigkeiten beschleunigt, erschwert es gleichzeitig die Durchsetzung von Änderungen nach der Veröffentlichung. Sobald ein Modell verbreitet ist, wird die Kontrolle über Feinabstimmungen oder die Integration in nachgelagerte Anwendungen immer schwieriger.

Der Bericht betont, dass jedes Sicherheitsrahmenwerk für offene Gewichts‑Modelle sowohl an der Quelle – während des Trainings – als auch am Rand – durch kontinuierliche Überwachung nach dem Deployment – wirken muss.

Kernpunkte des vorgeschlagenen Rahmens

• Standardisierte Sicherheitsprüfungen während des Trainings, im Modellcode verankert
• Kontinuierliche Laufzeit‑Überwachung mittels Interpretierbarkeits‑Signalen
• Open‑Source‑Benchmark‑Suite zur Messung der Sicherheitsleistung
• Community‑basiertes Portal für neue Erkennungsmethoden
• Transparente Berichterstattung von Sicherheitskennzahlen an Modell‑Nutzer

Die Partnerschaft hat einen Aufruf an die breitere KI‑Gemeinschaft gestartet und lädt Forschende, Entwickler*innen und Organisationen ein, Werkzeuge, Datensätze oder Evaluierungs‑Protokolle beizusteuern, die mit dem vorgeschlagenen Standard vereinbar sind. Zum Zeitpunkt der Ankündigung wurden weder ein formelles Benchmark, ein Zertifizierungs‑Zeitplan noch ein detailliertes Verfahrensdokument veröffentlicht.

Sowohl Base Labs als auch Hugging Face betonten, dass die Initiative kollaborativ und nicht vorschreibend sei. Durch die Nutzung der Entwickler‑Community von Hugging Face hoffen die Partner, schnell zu iterieren und praxisnahe Rückmeldungen in die sich entwickelnden Sicherheits‑Spezifikationen einfließen zu lassen.

Für deutsche Unternehmen bedeutet das neue Rahmenwerk greifbare Vorteile: klare Sicherheitsanforderungen beim Einkauf offener Gewichts‑Modelle, Zugriff auf gemeinsam genutzte Überwachungs‑Tools, die in bestehende Pipelines integriert werden können, und ein transparenter Prüfpfad, der regulatorischen Behörden oder internen Compliance‑Teams vorgelegt werden kann.

Ein weiterer Nutzen liegt in der Möglichkeit, nach dem Deployment automatisierte Alerts zu erhalten, wenn ein Modell ungewöhnliche Ausgaben generiert, die auf Missbrauch oder Fehlverhalten hinweisen könnten. Solche Alerts können direkt in bestehende CI/CD‑Umgebungen eingebunden werden, sodass Unternehmen sofort reagieren können.

Die Initiative sieht zudem vor, dass alle veröffentlichten Sicherheitskennzahlen in einem maschinenlesbaren Format bereitgestellt werden, um ihre Integration in Monitoring‑Dashboards und Auditing‑Tools zu erleichtern. Dies soll die Nachvollziehbarkeit und Vergleichbarkeit von Modellen über verschiedene Anbieter hinweg erhöhen.

Abschließend sei darauf hingewiesen, dass die ersten Pilot‑Projekte bereits im dritten Quartal 2026 mit ausgewählten Modellen aus dem Hugging‑Face‑Hub gestartet wurden. Die Ergebnisse dieser Piloten sollen im Laufe des Jahres 2027 veröffentlicht werden, um die Wirksamkeit des Standards zu validieren.

Lokaler Hinweis: In Deutschland können Unternehmen, die den neuen Standard übernehmen, von der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) bevorzugt behandelt werden, wenn sie nachweisen, dass sie offene Gewichts‑Modelle nach den definierten Sicherheitskriterien einsetzen.