OpenAI's Jalapeño-chip verslaat Nvidia in eerste benchmarks

OpenAI gebruikte de Hot Chips-conferentie op dinsdag 25 augustus 2026 om tot nu toe de meest gedetailleerde blik op Jalapeño te geven, de inferentiechip die het bedrijf intern ontwikkelt, en publiceerde de eerste reeks benchmarkresultaten voor het nieuwe systeem. Getest op de InferenceX-benchmark van SemiAnalysis, behaalde Jalapeño zowel meer tokens per gebruiker als een hogere doorvoer per kilowatt dan de beste momenteel beschikbare inferentieprocessoren — de eerste keer dat OpenAI publieke cijfers achter zijn chipstrategie zet.

De essentie is dat de resultaten een zeer, zeer significante prestatievooruitgang laten zien ten opzichte van de huidige stand van zaken. Jalapeño kan meer AI-werk per eenheid energie leveren, en tegelijk sneller reageren. Het is zeer efficiënt om veel klanten te bedienen, maar het kan ook een zeer lage latentie bieden.

Hoe Jalapeño zich verhoudt tot Nvidia's Blackwell

De vergelijking die OpenAI publiceerde werd gemaakt tegenover een systeem gebouwd op Nvidia's Blackwell-architectuur, momenteel het referentiepunt van de sector voor grootschalige AI-inferentie. Richard Ho, OpenAI's vicepresident hardware, vertelde journalisten dat Jalapeño biedt wat hij "het beste van twee werelden" noemde — tegelijk lagere latentie en hogere doorvoer — terwijl AI-systemen normaal gesproken tussen die twee moeten kiezen. OpenAI erkent zelf dat de vergelijking een momentopname is: tegen de tijd dat Jalapeño volledig wordt uitgerold, zal concurrerende hardware waarschijnlijk ook aanzienlijk zijn vooruitgegaan.

• 1,5 tot 1,9 keer meer AI-werk geleverd per watt dan de vergeleken Nvidia GB200- en GB300-systemen, over de modellen GPT-OSS 120B, DeepSeek R1 en Kimi K2.5 1T
• 1,7 tot 3,6 keer lagere end-to-end-latentie bij diezelfde drie modellen
• Getest op InferenceX, een testplatform gebouwd door SemiAnalysis om te meten hoe AI-systemen inferentiewerklasten afhandelen
• Vergeleken met de beste publiek geregistreerde resultaten op het moment van testen, behaald met Nvidia's superchips GB200 en GB300

Gebouwd met Broadcom, en met OpenAI's eigen modellen

Jalapeño werd door OpenAI ontwikkeld in nauwe samenwerking met Broadcom, en het bedrijf zegt dat zijn eigen modellen zijn gebruikt in het ontwikkelingsproces van de chip. OpenAI presenteert Jalapeño als het begin van een platform dat meerdere generaties beslaat, waarin AI-producten, modellen, chips en geheugen samen worden ontworpen, in plaats van dat de chip achteraf wordt aangepast aan welk model er ook op moet draaien. Die "full-stack"-aanpak, aldus OpenAI, stelde de ingenieurs in staat specifieke fasen van het inferentieproces aan te pakken die vaak wrijving veroorzaken — vooral "prefill", de fase waarin een systeem alles verwerkt en interpreteert wat een gebruiker heeft verstuurd, en de daaropvolgende communicatiestap, die vaak een knelpunt wordt naarmate de workload groeit.

We hebben Jalapeño ontworpen om datatransport en communicatievertragingen te minimaliseren. Dit betekent dat de modeltoestand, inclusief de KV-cache die wordt gebruikt tijdens het genereren van een antwoord, expliciet kan worden geplaatst en lokaal kan worden gehouden, terwijl het systeem voor elke inferentiefase de juiste combinatie van rekenkracht, geheugen en netwerk activeert.

Een kleine eerste uitrol, geen volledige overstap van Nvidia

Ho zei dat Jalapeño naar verwachting eind 2026 "in zeer kleine volumes" wordt uitgerold, met een grotere uitrol gepland voor 2027; OpenAI heeft niet gezegd hoeveel chips het volgend jaar wil inzetten. Ondanks de benchmarkresultaten was Ho duidelijk dat OpenAI niet van plan is zijn hele rekenvloot te vervangen door Jalapeño. De algehele rekenstrategie van het bedrijf, zei hij, omvat nog steeds "heel goede partners", waaronder Nvidia, en OpenAI wil de tweede en derde generatie van de nieuwe chip blijven ontwikkelen, terwijl het ook blijft inkopen bij gevestigde leveranciers.

Jalapeño zelf was eerder dit jaar al publiekelijk bekendgemaakt — de berichten over de exacte datum lopen uiteen: sommige plaatsen de eerste aankondiging in oktober 2025, andere in juni 2026 — voordat het evenement van dinsdag de eerste harde prestatiecijfers leverde ter onderbouwing van de oorspronkelijke belofte. OpenAI wil dat het platform generatie na generatie blijft evolueren, met hardware, geheugen en netwerk die samen worden afgestemd in plaats van los te worden ingekocht.

Wat dit verandert voor Nederlandse bedrijven die AI in productie draaien

Voor elk Nederlands bedrijf waarvan het product draait op gehuurde AI-inferentiecapaciteit, telt Jalapeño minder als chip om te kopen — OpenAI verkoopt hem niet aan externe klanten — en meer als signaal over de richting van inferentiekosten en latentie de komende twee tot drie jaar. Cloudaanbieders en AI-labs die wedijveren om de kosten per token te verlagen, geven efficiëntiewinsten na verloop van tijd doorgaans door aan klanten, via goedkopere API-prijzen of snellere reacties tegen dezelfde prijs. Nederlandse bedrijven die nu betalen voor op GPU gebaseerde inferentiecapaciteit, en die twijfelen of ze zich langdurig moeten binden aan op Nvidia gebaseerde cloudaanbieders, hebben nu weer een concrete aanwijzing dat de huidige prijzen en latentie geen vaste ondergrens zijn — en dat afhankelijkheid van één leverancier van inferentiehardware er tegen 2027 anders kan uitzien.