Base Labs, Hugging Face en Goodfire lanceren open‑gewicht AI‑veiligheidsstandaard

Op 16 september 2026 maakte Baseten, via haar onderzoekstak Base Labs, een samenwerking bekend met het model‑hostingplatform Hugging Face en interpretatiespecialist Goodfire AI. De drie organisaties hebben gezamenlijk toegezegd een nieuw raamwerk te bouwen voor het systematisch evalueren en continu monitoren van de veiligheid van open‑gewicht AI‑modellen die hun trainingsparameters publiekelijk vrijgeven.

Base Labs heeft aangegeven zowel preventieve beveiligingsmaatregelen tijdens de trainingsfase als post‑deployment monitoringmethoden te gaan publiceren. Het bedrijf omschrijft dit initiatief als een "transparante standaard geïntegreerd in de manier waarop modellen worden getraind en geserveerd", waarmee het doel is veiligheidscontroles onlosmakelijk te verankeren in elke fase van de modellevenscyclus.

Waarom openheid de veiligheid kan versterken

De partners betogen dat het publiek beschikbaar stellen van modelgewichten de zichtbaarheid van modelgedrag vergroot, waardoor onafhankelijke onderzoekers de mogelijkheid krijgen om audits uit te voeren, stress‑tests te doen en concrete verbeteringsvoorstellen te formuleren. Deze transparantie maakt controlemechanismen beter inspecteerbaar en onthult kwetsbaarheden die in gesloten, proprietaire systemen vaak onder de radar blijven.

Goodfire richt zich op geavanceerde modelinterpretatie. Hoewel de precieze technische bijdragen nog niet volledig zijn uitgewerkt, plant het bedrijf om interne signals – zoals activatie‑patronen, gradientstromen en interne representaties – te koppelen aan een overkoepelend monitoringsysteem. Hierdoor kunnen afwijkende gedragingen of potentieel onveilige output sneller worden opgespoord en gecorrigeerd.

Hugging Face levert haar uitgebreide modelrepository, die momenteel meer dan 6.000 open‑gewicht modellen bevat. TechCrunch wijst erop dat bij een aanzienlijk deel van deze modellen de ingebouwde beveiligingsmaatregelen zijn verwijderd via een techniek die "abliteratie" wordt genoemd, een praktijk die de noodzaak van robuuste, externe veiligheidscontroles onderstreept.

Context uit het International AI Safety Report 2026

Het International AI Safety Report 2026 schetst een paradox: het delen van modelgewichten versnelt onderzoek, peer review en auditmogelijkheden, maar bemoeilijkt tegelijkertijd de handhaving van wijzigingen nadat een model is vrijgegeven. Zodra een model wijdverspreid is, wordt het steeds lastiger om te controleren hoe het wordt bijgetuned of geïntegreerd in downstream‑toepassingen.

Het rapport benadrukt dat elk effectief veiligheidsraamwerk voor open‑gewicht modellen zowel aan de bron – tijdens de training – als aan de periferie – via continue monitoring na de inzet – moet opereren. Alleen een geïntegreerde benadering kan de risico's van zowel onbedoelde bias als kwaadaardige exploitatie beperken.

Kernpunten van het voorgestelde raamwerk

• Gestandaardiseerde veiligheidscontroles tijdens training geïntegreerd in de modelcode
• Continue runtime‑monitoring met interpretatiesignalen
• Open‑source benchmark‑suite voor veiligheids‑prestaties
• Community‑gedreven portaal voor nieuwe detectiemethoden
• Transparante rapportage van veiligheids‑metrics aan modelgebruikers

De samenwerking heeft een open oproep gedaan aan het bredere AI‑ecosysteem om bijdragen in te dienen, zoals tools, datasets of evaluatie‑protocollen die aansluiten bij de voorgestelde standaard. Tot nu toe is er geen formele benchmark, certificeringstijdlijn of gedetailleerd procesdocument vrijgegeven naast de aankondiging.

Zowel Base Labs als Hugging Face benadrukken dat het initiatief gericht is op samenwerking in plaats van voorschrift. Door gebruik te maken van de ontwikkelaarscommunity van Hugging Face hopen de partners snel te itereren, feedback uit de praktijk te verwerken en de veiligheidspecificaties dynamisch aan te passen.

Voor Nederlandse organisaties biedt het opkomende raamwerk concrete voordelen: een duidelijkere set veiligheidsverwachtingen bij het inkopen van open‑gewicht modellen, toegang tot gedeelde monitoringsinstrumenten die direct in bestaande pipelines kunnen worden geïntegreerd, en een transparante audit‑trail die kan worden voorgelegd aan toezichthouders of interne compliance‑teams.

De standaard voorziet bovendien in een mechanisme voor versiebeheer van veiligheids‑metrics, zodat elke wijziging in een model – bijvoorbeeld door fine‑tuning op een specifieke taak – automatisch wordt gekoppeld aan een hernieuwde evaluatie en een bijgewerkte rapportage aan de eindgebruiker.

Een belangrijk onderdeel van de voorgestelde infrastructuur is een open‑source dashboard waarin realtime waarschuwingen worden weergegeven wanneer een model afwijkende output genereert die buiten vooraf gedefinieerde veiligheidsnormen valt. Dit dashboard zal toegankelijk zijn voor zowel modelontwikkelaars als eindgebruikers.

Goodfire heeft aangegeven dat haar interpretatielaag modulair is opgezet, zodat externe onderzoekers eigen detectie‑algoritmen kunnen toevoegen zonder de kerncode van het monitoringsysteem te hoeven wijzigen. Deze modulariteit moet de adoptie versnellen en innovatie stimuleren.

Hugging Face plant om de bestaande model‑card‑structuur uit te breiden met een dedicated sectie voor veiligheids‑metadata, waarin details over training‑data, gebruikte mitigatiestrategieën en resultaten van de open‑source benchmark‑suite worden opgenomen.

Base Labs zal periodiek white‑papers publiceren waarin de effectiviteit van de geïntegreerde veiligheidscontroles wordt geëvalueerd aan de hand van real‑world incidenten en academische studies, waardoor de gemeenschap continu kan leren van praktijkervaringen.

Kortom, de samenwerking tussen Base Labs, Hugging Face en Goodfire belooft een nieuw hoofdstuk in de open‑weight AI‑veiligheidslandschap, waarbij transparantie niet alleen een ethisch ideaal is, maar een praktisch instrument om risico's te reduceren en vertrouwen te bouwen.