Samsung vergroot HBM-productie aanzienlijk voor AI nu

Samsung breidt snel zijn productie van high-bandwidth memory (HBM) uit nu de vraag door kunstmatige intelligentie (AI) sterk toeneemt. Na jaren van ontwikkeling en productverbeteringen kampt het bedrijf momenteel met meer bestellingen dan het kan uitleveren — en het is van plan de fabricage op te schalen om aan die vraag te voldoen.

From early setbacks to market-leading HBM chips

GenAI-chatbots en grootschalige AI-modellen die vanaf 2022 veel aandacht kregen, hebben een explosieve vraag naar AI-accelerators veroorzaakt. Die accelerators zijn sterk afhankelijk van HBM, een gespecialiseerd geheugen dat is ontworpen voor extreem hoge doorvoersnelheden en lage latentie. Samsung liep aanvankelijk achter op concurrenten toen enkele grote klanten — met name Nvidia — eerdere HBM-designs van Samsung oversloegen vanwege prestatieverschillen. Dat veranderde nadat Samsung zijn geheugenafdeling herstructureerde en zijn HBM-technologie flink verbeterde.

Tegenwoordig behoren Samsung’s HBM3E en HBM4 tot de meest gewilde modules op de markt. Meerdere rapporten geven aan dat zowel Broadcom als Nvidia Samsung’s HBM4 als een topklasse-oplossing zien, en ondernemingen en datacenteroperators grijpen beschikbare voorraden snel aan om hun AI-infrastructuur te voeden. Dit heeft geleid tot een duidelijke herwaardering van Samsung als leverancier van premium HBM-geheugen voor AI-accelerators en GPU-systemen.

Big capacity targets to meet booming AI demand

Volgens ET News is het doel van Samsung om de HBM-productiecapaciteit tegen eind 2026 met ongeveer 50% te verhogen. Het bedrijf produceert op dit moment naar schatting ongeveer 170.000 HBM-wafer-equivalenten per maand — een cijfer dat vergelijkbaar is met dat van concurrent SK Hynix — en het plan is om de output richting 250.000 wafers per maand te brengen naarmate de productie van HBM4 wordt opgeschaald.

• Current output: ~170,000 HBM wafers/month
• Target output: ~250,000 wafers/month by late 2026
• Main focus: scaling HBM4 capacity to satisfy AI accelerators

Die uitbreiding helpt Samsung een groter deel van de premium HBM-markt te veroveren en vermindert het risico op omzetverlies door niet nagekomen orders. Voor leveranciers van HBM is het nemen van productie- en kapitaalinvesteringen vaak onvermijdelijk omdat de markt voor AI-geheugen snel verandert en klanten langdurige leveringszekerheid eisen.

Het verhogen van wafer-output is niet alleen een kwestie van het toevoegen van machines: het vergt verbetering van testlijnen, meer achtergrondprocessen voor verpakking, verfijning van heat-spreader- en interposer-technologieën, en het waarborgen van yields op hoog-niveau. HBM-modules omvatten meerdere geheugenstacks die via TSV's (Through-Silicon Vias) en interposers worden verbonden, en hogere generatie HBM4 vereist nauwkeurige integratie tussen DRAM-stacks, seriële en parallelle busarchitecturen en de logica van de hostchip.

Where the growth will happen

De extra capaciteit zal komen door investeringen in Samsung’s Pyeongtaek 4 (P4)-faciliteit. Het upgraden van fabs en het verhogen van wafer-output zijn kapitaalintensieve stappen, maar met relatief hoge HBM-prijzen en een positieve langetermijnverwachting voor AI lijkt het bedrijf bereid om fors te investeren in zowel apparatuur als procesoptimalisaties.

In technische termen omvatten die investeringen doorgaans geavanceerde lithografiemachines, verbeterde test- en meetapparatuur (met inbegrip van parametertests voor hogere kloksnelheden en signaalkwaliteit), en extra assemblage- en verpakkinglijnen die specifiek ontworpen zijn voor 3D-geopstapeld geheugen en interposer-gebaseerde oplossingen. Voor HBM4 is de uitdaging om consistente signaalkwaliteit en thermisch beheer te bieden in dicht geïntegreerde modules die fungeren in GPU- en AI-acceleratoromgevingen waar energie-efficiëntie en hoge bandbreedte cruciaal zijn.

Stel je een toekomstig datacenter voor dat next-generation LLM-workloads draait — elke verbetering in geheugenbandbreedte versnelt zowel training als inferentie, wat verklaart waarom chipfabrikanten, cloudproviders en hyperscalers nu vechten om HBM-voorraad. Hoger bandbreedtegeheugen vermindert bottlenecks tussen compute-cores en het werkgeheugen, versnelt matrixvermenigvuldigingen die centraal staan in neurale netwerken en kan de totale kosten per getraind model verlagen door snellere doorlooptijden en betere energie-efficiëntie.

Terwijl AI-modellen groeien in complexiteit en meer sectoren GenAI-instrumenten integreren, herpositioneren geheugenproducenten zoals Samsung zich niet alleen om aan de huidige vraag te voldoen, maar ook om het marktbeeld voor jaren vooruit te beïnvloeden. Dit omvat strategische voorraadopbouw, langetermijncontracten met klanten in de cloud- en enterprise-sector, en samenwerking met chipontwerpers om HBM-interfaces en -specificaties te optimaliseren voor specifieke acceleratortypen.

Naast Samsung zijn er andere belangrijke spelers in de HBM-markt, zoals SK Hynix en Micron (waar mogelijk), en de competitieve dynamiek blijft bepalend voor prijsstelling en leveringszekerheid. Samsung’s nadruk op HBM3E en HBM4 reflecteert een strategie om te differentiëren op basis van prestaties, betrouwbaarheid en productiecapaciteit — factoren die enterprise-klanten en OEM’s zwaar wegen bij hun selecties.

Marktomstandigheden voor HBM worden ook sterk beïnvloed door de vraag van cloudproviders en grote AI-labs die massale hoeveelheden geheugen nodig hebben voor trainingstaken. Dit creëert druk op de toeleveringsketen, inclusief verpakkingspartners en leveranciers van interposers en koelingstechnologieën. Samsung’s investeringen in productielocaties zoals Pyeongtaek zijn bedoeld om knelpunten te verminderen en de gehele waardeketen te versterken.

Voor kopers van HBM en architecten van AI-systemen betekent de opschaling van Samsung dat er meer keuze en mogelijk stabielere prijzen komen. Tegelijkertijd zal het nauw contact tussen geheugenspecialisten en chipmaakbedrijven needed blijven om prestaties te halen die nodig zijn voor toekomstige generaties van AI-accelerators en heterogene compute-platforms.

Op technologisch vlak werken fabrikanten aan verbeterde stacking-methodes, interposer-ontwerpen met betere signaalintegriteit en nieuwe warmteafvoeroplossingen (zoals geïntegreerde warmteverspreiders en verbeterde TIM-materialen) om de betrouwbaarheid en levensduur van HBM-modules onder zware AI-belasting te waarborgen. Deze technische innovaties dragen bij aan de concurrentiepositie van leveranciers en zijn vaak doorslaggevend voor welke HBM-variant door fabrikanten van accelerators wordt gekozen.

Economisch gezien heeft de stijgende vraag naar HBM geleid tot hogere marges op premiumproducten, waardoor het voor Samsung rendabel is om nu te investeren in uitbreidingsprojecten ondanks de hoge kapitaalkosten. Die marges ondersteunen niet alleen de fabrieksinvesteringen, maar ook R&D voor volgende generatie geheugenoplossingen, waaronder energiezuinigere en hogere bandwidth-varianten die specifiek zijn afgestemd op AI-workloads.

Tot slot is het belangrijk op te merken dat opschaling van productie ook risico's met zich meebrengt: overinvestering in capaciteit kan problematisch zijn als de AI-markt zich onverwacht stabiliseert of als concurrenten met disruptieve alternatieven komen. Samsung lijkt echter te gokken op een langdurige en groeiende behoefte aan HBM vanwege trends in AI-rekenkracht, edge- en cloudcomputing en de toename van gespecialiseerde accelerators die alleen efficiënt werken met high-bandwidth geheugen.