Samsung lanceert HBM4E: snellere, efficiëntere HBM-geheugen

Samsung liep geruisloos maar beslist vooruit: het bedrijf is begonnen met het verzenden van monsters van zijn zevende generatie high-bandwidth geheugen, HBM4E, naar grote klanten, enkele maanden nadat het HBM4 begon te leveren aan toonaangevende AI-hardwarefabrikanten.

De snelheidsverbeteringen zijn voelbaar. De nieuwe HBM4E gebruikt een 12-laags stapel die ongeveer 20% hogere prestaties levert en ongeveer 16% betere energie-efficiëntie ten opzichte van HBM4. De per-pin signaaloverdracht is opgegeven op 14 Gbps met ruimte om richting 16 Gbps te gaan, wat zich vertaalt in een totale bandbreedte van ongeveer 3,6 TB/s.

Achter die cijfers zit engineering. Samsung heeft zijn zesde generatie 10nm-klasse DRAM-proces (1c) gecombineerd met een 4nm logic base die van Samsung Foundry. Het resultaat: hogere opbrengsten en slimmer thermisch gedrag. Samsung meldt dat de thermische weerstand met meer dan 14% is verbeterd, een klein lijkende maatstaf die er echt toe doet wanneer geheugen naast zeer hete acceleratorchips staat.

Capaciteitsopties beginnen met een 48GB, 12-laags pakket, ongeveer 30% dichter dan een typische HBM4-stapel. De roadmap bevat later een 8-laags 32GB onderdeel en een 16-laags 64GB module, waardoor systeemontwerpers meer keuzemogelijkheden krijgen voor energie, dichtheid en kostenafwegingen.

Waarom zouden engineers zich ermee bezig moeten houden? Omdat elke procent in snelheid of vermogen zich opstapelt bij grote modellen en uitgebreide clusters. Snellere per-pin snelheden en verbeterde thermische tolerantie verlichten integratieproblemen voor GPU- en acceleratorfabrikanten die proberen meer trainingsdoorvoer in beperkte racks en budgetten te persen.

Het geheugen-team van Samsung presenteert HBM4E als een vervolg op de HBM4-dynamiek en als correctie op eerdere haperingen bij de uitrol van HBM3E. Het bedrijf zegt dat de klantfeedback op HBM4 sterk is en dat vroegtijdige investeringen in fabrieken vruchten afwerpen nu het de levering voor de AI-markt opschaalt.

Monsters betekenen één ding: validatiecycli zijn begonnen. De markt zal nauwlettend volgen welke accelerators HBM4E overnemen en hoe snel de hogere snelheden en grotere stapels in echte trainings- en inferentieworkloads verschijnen. Adoptie zal de werkelijke maatstaf zijn om te beoordelen of HBM4E de geheugenverwachtingen voor de volgende golf AI-hardware verandert.