Threadripper Halo Station: datacenter-AI op desktop

Stel je voor dat je AI op datacenterschaal vanaf een desktop draait. Het klinkt als een gedachte-experiment, totdat je langs AMD's stand op IFA loopt en een machine ziet die dat werkelijkheid moet maken.

AMD lichtte de Threadripper Halo Station op, een workstation waarin de krachtigste PRO-componenten van het bedrijf samenkomen. AMD noemt het het "ultieme persoonlijke AI-workstation". Het doel is even eenvoudig als ambitieus: grootschalige modeltraining, fine-tuning en inferentie in één desktopbehuizing onderbrengen, zodat ontwikkelaars en studio's minder afhankelijk worden van dure cloudrekenkracht.

Het hart van de Halo Station is een Threadripper PRO 9995WX, een van AMD's snelste Threadripper-cpu's. Reken op veel cores en hoge kloksnelheden. Deze chip haalt maximaal 5,4 GHz en is geoptimaliseerd voor throughput en intensief multitasken. Maar pure cpu-kracht is slechts een deel van het verhaal.

Voor AI-workloads doen gpu's het zware werk. AMD koppelt de Threadripper aan workstation-grade Instinct-accelerators: MI350P-kaarten met HBM3e-geheugen. Een typische configuratie wordt geleverd met twee van deze kaarten, maar de behuizing biedt ruimte aan maximaal vier exemplaren. Daarmee loopt het geheugen op tot een indrukwekkende 576 GB HBM3e. De gecombineerde bandbreedte van het gpu-geheugen bedraagt meerdere terabytes per seconde, terwijl het systeem maximaal 2 TB DDR5 RDIMM ondersteunt. Samen komt het totale systeengeheugen daarmee uit op circa 2,6 TB.

• CPU: Threadripper PRO 9995WX - tot 96 Zen 5-cores / 192 threads, kloksnelheid tot 5,4 GHz, ~384 MB cache
• GPU: Tot 4× AMD Instinct MI350P-accelerators, elk met 144 GB HBM3e (tot 576 GB in totaal)
• Systeemsgeheugen: Tot 2 TB DDR5 RDIMM (totaal systeemsgeheugen ≈ 2,6 TB)
• Behuizing & koeling: Vloeistofkoeling in een standaard E-ATX-behuizing in Halo-stijl
• Geraamde beschikbaarheid: Gepland voor 2027

Er zijn wel afwegingen. NVIDIA's DGX Station blijft een directe concurrent en behoudt voordelen bij bepaalde architecturen en upgradepaden. NVIDIA ondersteunt AIC-uitbreidingskaarten en biedt bij sommige accelerators grote HBM-capaciteiten op één chip. AMD kiest voor een andere aanpak: opschalen met meerdere Instinct-kaarten, enorme aantallen cpu-threads combineren en onderdelen met gangbare componenten kunnen vervangen wanneer de behoeften veranderen.

Waarom is dat belangrijk? Niet elk team wil rekenkracht per uur huren. Modellen met biljoenen parameters lokaal trainen of draaien kan de terugkerende kosten drastisch verlagen en de bandbreedte- en privacydrempels van cloudproviders wegnemen. Simpel gezegd: één keer betalen, vaak draaien. AMD positioneert de Halo Station nadrukkelijk als brug voor teams die throughput op datacenterniveau nodig hebben, zonder de fysieke footprint van een datacenter.

Op IFA bleef het niet bij één kast. AMD toonde ook de Ryzen AI MAX 400-lijn: laptops en mini-pc's die zijn geoptimaliseerd voor lokale AI-taken. Deze apparaten moeten capabele inferentie en on-device ontwikkeling naar draagbare formaten brengen. Partners als HP, Lenovo, Acer en anderen hebben al machines gepresenteerd die op het platform verschijnen.

AMD voegt ook een software- en ecosysteemlaag toe aan de hardware. Ryzen AI Halo-systemen worden geleverd met ondersteuning voor Microsoft's Project Zenith, met tools als Visual Studio Code, WSL, GitHub Copilot CLI en PowerShell om lokale modelontwikkeling te vereenvoudigen. AMD kondigde daarnaast een samenwerking met SUSE aan om teams te helpen applicaties te migreren van lokale ontwikkeling op Ryzen AI Halo naar opgeschaalde, productieklare omgevingen. Dat neemt voor ondernemingen weer een wrijvingspunt weg.

De benchmarks die tijdens het evenement werden getoond, vielen op. Een Ryzen AI MAX+-prototype met geïntegreerd geheugen draaide naar verluidt GLM-5.3 Flash (≈320 miljard parameters) lokaal met ongeveer 58 tokens per seconde. Dat is een bruikbare throughput voor veel realistische toepassingen en, belangrijker, een kostenargument: een sterke afhankelijkheid van gehoste grote taalmodellen kan al snel honderden euro's kosten per workload van miljoenen tokens. Lokale chips veranderen die rekensom.

AMD probeert opnieuw te definiëren hoe en waar AI wordt gebouwd, door werk vanuit externe serverracks terug naar het bureau te halen zonder in te leveren op prestaties of uitbreidbaarheid.

Nog niet alles is duidelijk. De prijs van de Threadripper Halo Station is nog niet bekendgemaakt. De DGX Station had historisch gezien een prijskaartje van bijna zes cijfers, en waarnemers uit de industrie verwachten dat AMD de Halo Station competitief in dat segment positioneert: door NVIDIA te evenaren of te onderbieden, afhankelijk van de marktstrategie.

AMD's onderdelenstrategie heeft ook een praktisch voordeel: veel componenten in de Halo Station komen uit gangbare server- en workstation-ecosystemen. Dat maakt onderhoud en toekomstige upgrades minder proprietair en meer modulair. Vooral labs en studio's die hun hardware-roadmap jaren vooruit plannen, zullen dat waarderen.

Kortom, AMD's boodschap combineert technische pragmatiek met ambitie: ontwikkelaars vertrouwde tools bieden, hen enorme modellen lokaal laten draaien en hardware leveren die zonder vendor lock-in kan worden onderhouden en opgeschaald. Als de markt daarop aanslaat, kan 2027 het jaar worden waarin desktop-AI niet langer een niche is, maar de logische keuze wordt voor serieuze teams.