OpenAI's Jalapeno-chip: Broadcoms nieuwe AI-accelerator

Een compacte chip arriveerde deze week bij OpenAI en voelde als meer dan alleen hardware. Het was een statement. Met de naam Jalapeno markeert de nieuwe ASIC OpenAI's eerste interne chipproject, ontwikkeld in samenwerking met Broadcom om AI-inferentie te versnellen voor het bedrijf dat ChatGPT naar de wereld bracht.

OpenAI noemt het ontwerp een Intelligence Processor en omschrijft het als de eerste accelerator in een platform dat het bedrijf samenstelt om geavanceerde modellen sneller, betrouwbaarder en op grotere schaal te draaien. Broadcom zal het silicium fabriceren. OpenAI zegt Jalapeno in ongeveer negen maanden te hebben ontworpen en ook grote delen van de omliggende compute-systemen te hebben ontwikkeld waarin deze chips gaan draaien.

Waarom dit belangrijk is voor AI-rekenkracht

GPU's van Nvidia vormen de ruggengraat van moderne AI. Ze zijn flexibel en krachtig. Maar ze hebben hoge prijskaartjes en leiden tot leveringsknelpunten. ASICs ruilen wat flexibiliteit in voor efficiëntie en kostenbesparing. Dat maakt ze aantrekkelijk wanneer een werklast nauwkeurig kan worden geoptimaliseerd. Jalapeno is OpenAI's gok dat zorgvuldig afgestemde hardware meer rekenkracht per watt kan leveren en het bedrijf kan helpen de toegang tot geavanceerde modellen op te schalen.

Breekt OpenAI met Nvidia? Niet precies. Het is diversificatie, gedreven door vraag die blijft versnellen. Eerder dit jaar sloot OpenAI overeenkomsten om de Trainium-chips van Amazon te gebruiken en tekende samenwerkingen met AMD en Cerebras. Nu, met Broadcom als producent van Jalapeno, wil OpenAI een extra betrouwbare route naar ruwe rekenkracht toevoegen terwijl het racks met maatwerkhardware bouwt die, bij volledige ambitie, ongeveer tien gigawatt aan vermogen zou kunnen vragen.

Er zijn ook praktische mijlpalen. Een fysiek exemplaar van Jalapeno werd woensdag geleverd. De bedrijven zeggen dat ze in eerste inzettingen tegen het einde van 2026 verwachten en bredere uitrol in de jaren daarna. Als de tijdlijnen standhouden, zouden we het begin van een aanzienlijke verschuiving in hoe grote taalmodellen in productie worden bediend kunnen zien.

Broadcom merkte het nieuws; de koers steeg na de aankondiging met ongeveer twee procent. De chipmaker is een van de winnaars op de AI-markt, met aandelen die dit jaar ruwweg tien procent zijn gestegen en bijna zeven keer zoveel sinds eind 2022, omdat grote cloudproviders en AI-labs maatwerk-silicium bestellen.

Er zijn afwegingen. ASICs zijn minder flexibel dan algemene GPU's, dus ze werken het best wanneer ze gecombineerd worden met een nauwkeurig software- en systeemstack. OpenAI's argument is dat door meer van die stack zelf te ontwerpen, het betere efficiëntie kan behalen en de toegang tot krachtige AI-tools kan uitbreiden. Kort gezegd: bouw de motor, stem de auto af en je kunt verder rijden voor minder.

De echte test wordt de prestatie op echte werklasten en hoe snel OpenAI de productie met Broadcom kan opschalen. Voor nu is Jalapeno een gedurfde stap naar hardware-onafhankelijkheid en een herinnering dat de AI-toeleveringsketen evolueert van kant-en-klare onderdelen naar maatwerkplatforms die zijn ontworpen voor een nieuwe klasse software.