Samsung wedt op geheugen: HBM4, zHBM en hybride bonding

<p<Grote inzet op geheugenmodules is in volle gang. De leiding van Samsung Device Solutions geeft aan dat de orders naar verwachting zullen toenemen in 2026 en 2027 — en het bedrijf positioneert zich al actief om daarvan te profiteren. Deze strategische focus omvat productieplanning, toeleveringsketenoptimalisatie en technologische investeringen gericht op high-bandwidth memory (HBM) en geavanceerde verpakkingsmethoden.

Wat is er veranderd? Het antwoord is helder en krachtig: hyperscalers bouwen omvangrijke AI-clouds. Grote cloud- en AI-dienstverleners investeren in rekeninfrastructuur die enorme hoeveelheden geheugenbandbreedte vereist voor training en inference van grootschalige modellen. Deze spelers hebben geheugen afgenomen in volumes die velen niet voorzagen, waardoor prijzen stegen en de beschikbare voorraad aanscherpte. Het directe gevolg was een onverwacht voordeel voor de voornaamste geheugenproducenten en een race om productiecapaciteit op te schalen, van waferfabricage en geavanceerde packaging tot test- en validatiefaciliteiten.

Samsung heeft op die golf meegesurfd. Een sterke vraag naar HBM3E droeg in het derde kwartaal bij aan hogere omzet en gaf momentum richting het vierde kwartaal. Dit soort marktdynamiek stimuleert leveranciers om de volgende generatie HBM-oplossingen te versnellen; Samsung richt zich nu op HBM4 als opvolger. De plannen voor massaproductie mikken op het eerste kwartaal (Q1), en volgens het bedrijf hebben vroege leveringen aan klanten al bemoedigende prestatieresultaten opgeleverd. Die vroege samples helpen klanten hun AI-acceleratoren en systeemarchitecturen te valideren, en verschaffen feedback om productierijping en firmware- of interfaceoptimalisaties te versnellen.

Achter de productaanduidingen zitten concrete technische verbeteringen. Een belangrijke innovatie is hybride bonding voor HBM-stacks. Door de manier waarop lagen elektrisch en mechanisch met elkaar worden verbonden te wijzigen — minder afhankelijk van klassieke koperen pijpcontacten en meer op compacte directe verbindingen — rapporteert Samsung een daling van ongeveer 20% in thermische weerstand voor 12H- en 16H-stacks. In laboratoriumtests resulteerde dit in ongeveer 11% lagere pakkettemperaturen bij baselinemetingen. Dat is relevant omdat koeler opererende stacks hogere snelheden kunnen handhaven, minder thermische throttling vertonen en over de levensduur betrouwbaarder blijven. Bovendien verbetert hybride bonding de signaalkwaliteit en kan het de afstand tussen geheugenlagen verkorten, wat leidt tot lagere latentie en potentieel hogere I/O-snelheden.

Een andere ontwikkelingslijn is zHBM, een verticale stapelarchitectuur die dies langs de Z-as stapelt. Deze aanpak maximaliseert dichtheid en vermindert de lengte van signaalpaden tussen lagen, met belangrijke gevolgen voor bandbreedte en energieverbruik. Volgens gerapporteerde cijfers kan zHBM tot vier keer de bandbreedte bieden ten opzichte van traditionele HBM-arrangementen, terwijl het stroomverbruik met circa 25% wordt verminderd — een combinatie waar AI-datacenters zeer op zitten te wachten. Meer bandbreedte per watt betekent dat trainingsclusters en inference-racks meer verwerkte tokens per seconde kunnen afhandelen zonder evenredig meer energie of koelingscapaciteit te vereisen. Daarnaast beïnvloedt zo'n verticaal ontwerp systeemontwerpen: het stelt hardwareontwerpers in staat dichter bij de compute-eenheden te plaatsen en kan nieuwe topologieën voor interconnect en geheugenhiërarchie mogelijk maken.

Samsung onderzoekt ook op maat gemaakte HBM-ontwerpen die rekenfuncties in het geheugen zelf integreren, waardoor de grens tussen opslag en verwerking vervaagt. Dit concept, vaak aangeduid als processing-in-memory (PIM) of compute-in-memory, richt zich op het reduceren van datatransfers tussen geheugen en accelerators, wat latentie verlaagt en de energie-efficiëntie verbetert voor specifieke workloads zoals vectorberekeningen, matrixvermenigvuldiging en sparsity-optimalisaties. Door eenvoudige vermenigvuldig-accumuleeroperaties (MAC) of gespecialiseerde inferentie-kernen binnen de geheugenstacks te plaatsen, kunnen systemen veel van het dataverkeer lokaal afhandelen. De technische uitdaging blijft echter groot: het vereist aangepaste interfaces, coherentiemechanismen, aangepaste programmastacks en zorgvuldige thermische oplossingen om verwerking en geheugen naast elkaar veilig en efficiënt te laten draaien.

De marktkans is duidelijk en de timing cruciaal. Samsung verwacht dus substantiële orders in 2026 en 2027 — aangedreven door dezelfde motor die de recente vraag al aanjaagde: steeds grotere en complexere AI-workloads die meer bandbreedte, betere thermische eigenschappen en hogere energie-efficiëntie vereisen. Als geheugenleveranciers massaproductie van HBM4 op tijd kunnen opschalen en tegelijkertijd hybride bonding, zHBM en PIM-achtige concepten succesvol kunnen integreren, bestaat een reële kans dat deze innovaties de klassieke prestatieknelpunten in AI-infrastructuur verminderen. Toch blijven er bottlenecks: wafercapaciteit, pakketfabricage, testdoorvoer en software-ecosysteem moeten allemaal in sync opschalen. Daarnaast speelt concurrentie in de industrie een rol; leveranciers die snellere time-to-market en hogere productkwaliteit leveren, zullen marktaandeel winnen.

Wat betekenen deze ontwikkelingen praktisch voor AI-ontwikkelaars, data center-architecten en inkopers? Ten eerste vraagt het ontwerp van systemen om een holistische benadering: geheugenkeuze en -architectuur beïnvloeden niet alleen throughput maar ook systeemontwerp voor koeling, voedingsdistributie en interconnect. Ten tweede zullen nieuwe geheugenoplossingen een impact hebben op kostenmodellen; hogere initiële investering in HBM4 of zHBM-compatibele hardware kan worden terugverdiend door lagere operationele kosten per compute-eenheid en verhoogde efficiëntie bij intensieve AI-workloads. Ten derde vereist het inzetten van PIM of gespecialiseerde HBM-varianten vaak softwareoptimalisaties: compilers, runtime-libraries en frameworks moeten rekening houden met heterogene geheugen- en rekenbronnen om de potentiële voordelen effectief te benutten.

Samenvattend: geheugen wordt een steeds zichtbaardere factor in de prestaties van AI-infrastructuur. Samsung positioneert zich met HBM4, hybride bonding-technieken, zHBM-architecturen en experimentele compute-in-memory-concepten om te profiteren van de verwachte vraagstijgingen in 2026 en 2027. Voor organisaties die grote AI-modellen trainen en inzetten, betekent dit dat investeringen in geavanceerd geheugenontwerp en compatibele systeemarchitectuur een doorslaggevende rol kunnen spelen bij het behalen van schaalvoordelen en efficiëntiedoelen. Blijf de ontwikkelingen volgen: geheugen schuift van ondersteunende component naar centrale acteerder in de AI-wedloop, en de uitkomsten van productie-rijping, prijsontwikkeling en ecosysteemintegratie zullen bepalen welke ontwerpen de komende generaties AI-hardware domineren.