HBM4E van SK hynix: 16 Gbps, 48 GB en betere efficiëntie

Geheugen wordt stilletjes de bottleneck in de race naar snellere AI-inferentie. SK hynix heeft zojuist het verschil gemaakt door monsters van de nieuwe HBM4E naar partners te verzenden en daarmee de druk op geheugenbandbreedte in acceleratorontwerpen te vergroten.

Kort verhaal: het is sneller. De HBM4E van SK hynix haalt 16 Gbps per pin, tegen 10 Gbps in de eerdere HBM4-specificatie. Samsung, om niet achter te blijven, begon ongeveer een maand eerder met het distribueren van een 14 Gbps-ontwerp, maar de sprong van SK hynix is opmerkelijk omdat prestatieverbeteringen vaak pijnlijke compromissen met zich meebrengen. Ditmaal niet.

De HBM4E van SK hynix bereikt 16 Gbps per pin en 48 GB per 12-die stack.

Het bedrijf stapelt 12 dies in één pakket, wat resulteert in 48 GB per stack. Dat is belangrijk omdat de meeste AI-accelerators niet op slechts één stack vertrouwen; ze koppelen meerdere HBM-stacks om enorme on-chip matrices van data te voeden. Meer capaciteit per stack vereenvoudigt bordontwerp en vermindert de verpakkingscomplexiteit voor dichtbebouwde acceleratormodules.

Op het gebied van energieverbruik maakt deze generatie een pragmatische uitspraak. SK hynix meldt dat HBM4E ongeveer 20% energiezuiniger is dan de vorige HBM4. Verbeterde efficiëntie is de onbezongen held van inzetbaarheid van AI, want je kunt bandbreedte toevoegen, maar als je de warmte niet kwijt kunt, verdwijnen de praktische voordelen. SK hynix gebruikt een Mass Reflow Molded Underfill-proces (MR-MUF), waarbij beschermende vloeistof tussen siliciumdies wordt geïnjecteerd om het pakket te stabiliseren. Het resultaat: ongeveer 17% lagere thermische weerstand ten opzichte van de oudere aanpak, wat koelinstallaties ontlast.

Waarom is thermische weerstand zo belangrijk? Omdat in een wereld waarin racks vol zitten met accelerators, elke bespaarde watt en elke graad minder junction-temperatuur de betrouwbaarheid vergroot en de koelbudgetten van datacenters vereenvoudigt. Ingenieurs houden niet van verrassingen. Lagere thermische weerstand is precies het soort voorspelbare verbetering waarop zij productroadmaps kunnen bouwen.

Er zijn ook bredere implicaties. Snellere pins en hogere dichtheid van stacks stellen chiparchitecten in staat interposer-layouts en geheugenkanalen te heroverwegen. Ze kunnen óf ruwe rekenkracht verder opvoeren, óf modellen schalen die voorheen tegen geheugenlimieten botsten. In gewone taal: grotere modellen, dichter gespakte inferentie, of dezelfde modellen die goedkoper en koeler draaien.

SK hynix presenteerde de verzending van monsters als een geplande mijlpaal, ondersteund door productie-ervaring. De boodschap is duidelijk: het bedrijf verwacht dat partners kwalificatiewerk starten en richting massaproductie gaan. Timing is belangrijk voor klanten die siliconen en module-lanceringen plannen; vroege toegang tot monsters verkort die cyclus.

Niet elke AI-workload heeft het allerlaatste snufje nodig. Maar voor hyperscalers en AI-hardware startups die piekdoorvoer najagen, zal de combinatie van bandbreedte, capaciteit en thermische winst van HBM4E verleidelijk zijn. Zal het de volgende golf accelerators hervormen? Misschien. De volgende vraag is hoe snel het ecosysteem, interposers, koelers en systeemarchitecten, zich aanpast om de marge die deze stacks bieden te benutten.

Als je geïnteresseerd bent in de toekomst van AI-hardware, blijf geheugenontwikkelingen volgen. Het verandert vaak de race zonder veel lawaai, totdat het plotseling niet meer stil is.