Nvidia Vera herdefinieert AI-servers met hoge bandbreedte

Datacenters veranderen zelden van de ene op de andere dag. Maar wanneer ze dat doen, hoor je het gezoem. De serverrekken worden dichter. Latentie neemt af. Kosten worden herschikt. Nvidia zet erop dat dat gezoem binnenkort een nieuwe naam krijgt: Vera.

Nvidia zegt dat Vera ongeveer 1,8 keer de prestaties levert van toonaangevende x86-chips. Die bewering is de kop. De hardware erachter is het gespreksonderwerp. Vera is het CPU-deel van het Vera Rubin-platform, dat een op ARM gebaseerde CPU koppelt aan een Rubin-GPU voor workloads die enorme geheugenbandbreedte en nauwe CPU-GPU-coördinatie nodig hebben.

Waarom Vera het denken over AI-servers hervormt

Vera is gebouwd rond 88 Olympus-kernen met ruimtelijke multithreading, wat 176 threads per socket oplevert. Geheugen is geen bijzaak: een enkele CPU kan worden gekoppeld aan maximaal 1,5 terabyte LPDDR5X, met ongeveer 1,2 terabyte per seconde aan bandbreedte. Voor AI-inferentie en agentachtige modellen die veel context en gewichten verwerken, is die bandbreedte de maatstaf voor overleving.

Denk aan schaal. Nvidia toonde een Vera CPU-rack dat 256 CPU's in één chassis stopt. Dat komt neer op 22.528 kernen en 45.056 threads. Het is het soort dichtheid waar cloudproviders naar verlangen als ze grote modellen uit dure GPU-only eilanden willen verplaatsen naar meer flexibele, CPU-gedreven architecturen.

Vera werkt ook goed samen met Rubin-GPU's. De NVL72-configuratie koppelt 36 Vera-CPU's aan 72 Rubin-GPU's, en Nvidia prijst een NVLink-C2C-interconnect van 1,8 terabyte per seconde tussen hen aan. Het doel is niet om GPU's te vervangen, maar om de relatie tussen host en accelerator te herschikken zodat data sneller stroomt en software minder knelpunten ondervindt.

Toepassingsgebieden zijn bekend maar groeien: agentachtige AI, versterkend leren, zware analytics en inferentie op schaal. Vera kan fungeren als een zelfstandige compute-node voor die taken, of als de host die Rubin-GPU's van data voorziet en synchroniseert.

Adoptie is al gaande. Anthropic, OpenAI en SpaceXAI hebben zich gecommitteerd aan het platform voor hun werkbelastingen van modellen, en hyperscalers zoals ByteDance, CoreWeave en Oracle Cloud Infrastructure doen mee. Aan de systeemzijde zullen Dell, HP, Lenovo en Supermicro servers op basis van Vera aanbieden. Grote fabrikanten waaronder Asus, Compal, Foxconn, Gigabyte, Pegatron, Quanta Cloud Technology, Wistron en Wiwynn zullen hardware produceren rond de chip.

Zelfs niet-traditionele klanten merken het op. De New York Stock Exchange, die ongeveer 1,1 biljoen berichten per dag verwerkt, onderzoekt Vera samen met partners Redpanda en HP om latentiegevoelige infrastructuur te heroverwegen. Die interesse toont aan dat het platform voor meer wordt geëvalueerd dan alleen modeltraining; het wordt bekeken voor realtime, hoogdoorvoersystemen waar elke microseconde telt.

Voor Nvidia breidt Vera een bekend speelboek uit: leerervaringen uit GPU-eerst AI-implementaties nemen en toepassen op CPU-design. Het bedrijf verwerkte eerder zijn AI-werk in producten zoals RTX Spark, die Grace-CPU's en Blackwell-GPU's met LPDDR5X-geheugen in de schijnwerpers zette. Nu is het gesprek verschoven van single-node GPU-prestaties naar systeembrede balans en doorvoer.

Zal Vera x86 in het datacenter verdringen? Niet van de ene op de andere dag. Maar de architectuur richt zich op specifieke pijnpunten voor AI-workloads: geheugenbandbreedte, threaddichtheid en snelle CPU-GPU-interconnectie. Voor ingenieurs en architecten die worstelen met modelkosten en doorvoer is dat een praktisch begin.