DRAM-prijsstijgingen drukken kosten van AI-servers nu

Ze stuurden net het bericht. Kort en bondig. NVIDIA vertelde zijn grootste klanten dat AI-geoptimaliseerde servers volgend jaar meer zullen kosten - met name een stijging van meer dan 15 procent voor veel configuraties.

Centraal in deze verschuiving staat geheugen. DRAM-prijzen zijn gestegen, en wanneer het onderdeel dat AI-versnellers draaiende houdt duur wordt, volgt de prijs van de hele machine. High-end systemen zoals Vera Rubin en Grace Blackwell lopen het meeste risico; hoeveel uw rekening stijgt hangt af van de GPU-generatie en de geheugenconfiguratie die de serverbouwer kiest.

OEMs die machines assembleren voor hyperscalers - de aannemers die racks bouwen voor Microsoft, Google en Oracle - hebben hun klanten al stilletjes gewaarschuwd. Dat gefluisterde netwerk is hoe prijswijzigingen door de industrie reizen: van geheugenfabrieken naar bordfabrikanten, en dan in cloudcontracten en inkoopspreadheets.

Denk aan hefboomwerking. Een handvol DRAM-leveranciers - Samsung, SK hynix en Micron - beheersen de toevoer van geheugenchips. Ze hebben de productie opgevoerd, maar de vraag vanuit AI past door een smalle hals. NVIDIA's versnellers zijn afhankelijk van DRAM-capaciteit om prestaties te leveren, en wanneer de voorraad krap is, verschuift de hefboom naar beneden in de keten. Wie betaalt? Vaak zijn het de bedrijven die de datacenters uitrollen.

NVIDIA zelf bevindt zich in een interessante positie. Het heeft zeer geringe leveringsrisico's voor zijn door TSMC gemaakte chips en kan bruto marges voorleggen die rond de 75 procent schommelen. Toch heeft het bedrijf recent de GPU-prijzen ook iets verhoogd. Die stappen laten zien dat zelfs marktleiders klanten niet volledig kunnen beschermen wanneer aangrenzende markten - in dit geval geheugen - plotseling stijgen.

Cloudreuzen zitten niet stil. Amazon, Microsoft, Google en Meta hebben veel geld gestoken in op maat gemaakte siliconenprojecten, met als doel de afhankelijkheid van externe versnellers te doorbreken. Een chip ontwerpen is echter maar één deel van de puzzel. Op korte termijn blijven veel van die bedrijven afhankelijk van NVIDIA-hardware om AI-workloads in productie op te schalen.

Hogere hardwarekosten komen samen met andere obstakels: een krappe arbeidsmarkt voor datacenterbouw, beperktere toegang tot financiering voor grote kapitaalprojecten, en lokale vergunning- of politieke tegenstand die de bouw vertraagt. Tel die factoren bij elkaar op en de rekensom voor het uitbreiden van AI-datacenters wordt complexer - en duurder.

Stijgende DRAM-kosten hebben de machtsverhouding - en de rekening - verlegd naar zowel geheugensfabrikanten als klanten.

Het aanstaande kwartaalverslag van NVIDIA zal nauwlettend worden gevolgd. Investeerders en bedrijfplanners willen zien of de vraag naar AI-systemen nog steeds de capaciteit overtreft, en of marges bestand zijn tegen aanhoudende componenteninflatie. Voor inkoopteams en cloudarchitecten is de directe taak onaangenaam maar simpel: reken met hogere eenheidskosten en bepaal welke projecten nog rendabel zijn.

Wie uiteindelijk de stijging absorbeert - aanbieders, bedrijven of eindklanten - zal bepalen hoe snel grootschalige AI-implementaties doorgaan. De geheugenmarkt bewijst dat hardwareknelpunten geen relieken uit het verleden zijn. Ze vormen de rem op de AI-ambities van morgen.