HP heeft de ZGX Fury geïntroduceerd, een AI-station dat is ontworpen als een gedeelde 'inference box' voor gebruik op de edge (bijvoorbeeld in fabrieken of filialen) in plaats van in een traditioneel datacenter.
Hardware-specificaties:
- Chipset: Gebouwd rond de NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip.
- Geheugen: Beschikt over 748 GB unified memory (combinatie van GPU- en CPU-geheugen), wat inferentie van zeer grote modellen mogelijk maakt.
- Rekenkracht: Tot 20 petaFLOPS FP4.
- Koeling en Behuizing: Vloeistofkoeling in een tower-behuizing die ook in 5U rack-slots past.
- Connectiviteit: Uitgebreide netwerkmogelijkheden via de ConnectX-8 SuperNIC met 400 Gbps poorten.
Software en Ecosystemen: Het systeem draait op Ubuntu 24.04 LTS en bevat HP-specifieke tools zoals de Z Runtime en Z Toolkit (waaronder Ollama-ondersteuning). Daarnaast is er een sterke samenwerking met Red Hat en NVIDIA voor de 'Red Hat AI Factory', waarmee ondernemingen AI-modellen en applicaties veiliger en schaalbaarder kunnen implementeren in een hybride cloud-omgeving.
De ZGX Fury is nu bestelbaar en concurreert met soortgelijke high-end systemen van MSI en AMD.
HP ZGX Fury nu bestelbaar: GB300 Superchip, 748 GB Unified Memory en een Red Hat AI Factory-plan voor de Edge
Hardware van de HP ZGX Fury: GB300 Superchip, 748 GB geheugen, Tower of 5U
De kern van het systeem bestaat uit dezelfde hardware als in de MSI XpertStation WS300: één Blackwell Ultra GPU met 252 GB HBM3e op 7,1 TB/s, gekoppeld aan een 72-core Grace CPU met 496 GB LPDDR5X via NVLink-C2C.
De specificaties vullen details aan die in de platformaankondigingen ontbraken:
- CPU-geheugen: Vier 128 GB SOCAMM-modules met een snelheid van 396 GB/s. De Grace CPU is direct op de host-processormodule gesoldeerd in plaats van in een socket geplaatst.
- Totaal geheugen: De twee geheugenpools vormen samen een coherente ruimte van 748 GB. Hierdoor kan de GPU direct het CPU-geheugen adresseren, wat inferentie van trillion-parameter modellen en het fine-tunen van modellen in de 100-miljarden-parameter klasse mogelijk maakt op één enkele machine. HP vermeldt hierbij dat de harness kwantiseert op FP4.
Opslag en Netwerkmogelijkheden
- OS-opslag: Twee ingebouwde M.2-slots op PCIe 5.0, gekoppeld aan de Grace CPU, bevatten het besturingssysteem in een softwarematige RAID 1-mirror.
- Data-opslag: Twee extra M.2-slots via de PCIe-switch in de ConnectX-8 SuperNIC dienen als RAID 0-datavolume, met een keuze uit 2 TB of 4 TB zelfversleutelende NVMe-opslag bij aankoop.
- Netwerken: De ConnectX-8 beschikt over twee QSFP112-poorten van elk 400 Gbps (om twee ZGX Fury-systemen aan elkaar te koppelen), een 10 GbE RJ-45-poort voor de host, en een aparte 1 GbE RJ-45, Mini-DP en micro-USB voor de BMC.
I/O en Behuizing
De overige I/O is standaard voor werkstations: twee USB-A en twee USB-C poorten aan de voorzijde, vier extra USB-poorten aan de achterzijde, audio-aansluitingen, een Kensington-slot en een C20-stroomingang.
Er is geen directe beelduitgang van de GB300 zelf; HP biedt optioneel een NVIDIA RTX PRO GPU aan om monitoren aan te sturen, zodat de Blackwell Ultra GPU volledig gereserveerd blijft voor inferentie. De behuizing is een tower die ook wordt geleverd met rails voor een 5U rack-slot. HP maakt gebruik van vloeistofkoeling met geoptimaliseerde luchtstroom; een loop met een capaciteit van 1.400 W houdt de GPU bij volledige belasting op 71°C.
Software: Ubuntu, Z Runtime en Red Hat-certificering
De ZGX Fury wordt geleverd met Ubuntu 24.04 LTS en de AI-ontwikkelaarstools van NVIDIA, inclusief door NVIDIA goedgekeurde partner BIOS- en BMC-firmware. Daarnaast voegt HP twee eigen lagen toe:
- HP Z Runtime: Een vooraf geïnstalleerde command-line tool voor het ophalen, serveren en beheren van modellen op lokale systemen.
- HP Z Toolkit: Voegt open-source frameworks toe, MLflow-experiment tracking en Ollama-testen met discovery en synchronisatie tussen ZGX-systemen.
Dit stelt teams in staat om te prototypen op een ZGX Nano en dezelfde workflow over te zetten naar een ZGX Fury wanneer er meer geheugen, doorvoersnelheid of meer gelijktijdige gebruikers nodig zijn.
Integratie met Red Hat
HP kondigt aan dat de ZGX Fury gecertificeerd is voor Red Hat Enterprise Linux (RHEL) en is opgenomen in de Red Hat Ecosystem Catalog. Samen ontwikkelen HP en Red Hat een open AI-platform voor ondernemingen dat 'Red Hat AI Factory with NVIDIA' op de ZGX Fury draait.
Red Hat AI Factory with NVIDIA is een pakket bestaande uit RHEL, OpenShift en Red Hat AI Enterprise, samen met NVIDIA AI Enterprise, voor het implementeren van modellen, agenten en applicaties over een hybride cloud. Op de ZGX Fury is deze combinatie bedoeld om:
- De tijd voor het instellen van omgevingen en het implementatierisico te verminderen.
- De GPU-benutting te verbeteren via geoptimaliseerde CUDA-bibliotheken, scheduling en multi-GPU workload-orchestratie.
- Ontwikkelaars in staat te stellen rekenkracht naar de machine te verplaatsen zonder hun bestaande workflows te wijzigen.
Het platform is ontworpen om meerdere AI-workloads op één systeem te draaien met workload-isolatie en governance, waardoor de machine transformeert van een deskside-apparaat naar edge-infrastructuur die door IT beheerd kan worden.
Visie op Edge AI
Jim Nottingham, Senior Vice President en Division President of Advanced Compute and Solutions bij HP, stelt: "De toekomst van AI verschuift naar de plek waar mensen werken, machines opereren en kritische beslissingen worden genomen. Samen met Red Hat en NVIDIA breidt HP enterprise AI uit van het datacenter naar de edge met een open, enterprise-grade inferentieplatform."
Chris Marriott, Vice President of Enterprise Platforms and Solutions bij NVIDIA, vult aan dat het doel is om "krachtige AI lokaal te draaien, terwijl de veiligheid, schaalbaarheid en consistentie die ondernemingen eisen, behouden blijven."
Beschikbaarheid en Concurrentie
De ZGX Fury is nu bestelbaar via HP; de prijs werd in de aankondiging niet vermeld. De integratie van Red Hat AI Factory is een gepland onderdeel en geen direct leverbaar SKU; klanten kunnen dit eerst evalueren in een sandboxed omgeving op HP-apparaten.
De concurrentie in dit segment groeit snel: de MSI WS300 wordt geleverd met dezelfde superchip, en de AMD Threadripper Halo Station richt zich op soortgelijke workloads.
HP ZGX Fury nu bestelbaar: GB300 Superchip, 748 GB Unified Memory en een Red Hat AI Factory-plan voor de Edge
Hardware van de HP ZGX Fury: GB300 Superchip, 748 GB geheugen, Tower of 5U
De kern van het systeem bestaat uit dezelfde hardware als in de MSI XpertStation WS300: één Blackwell Ultra GPU met 252 GB HBM3e op 7,1 TB/s, gekoppeld aan een 72-core Grace CPU met 496 GB LPDDR5X via NVLink-C2C.
De specificaties vullen details aan die in de platformaankondigingen ontbraken:
- CPU-geheugen: Vier 128 GB SOCAMM-modules met een snelheid van 396 GB/s. De Grace CPU is direct op de host-processormodule gesoldeerd in plaats van in een socket geplaatst.
- Totaal geheugen: De twee geheugenpools vormen samen een coherente ruimte van 748 GB. Hierdoor kan de GPU direct het CPU-geheugen adresseren, wat inferentie van trillion-parameter modellen en het fine-tunen van modellen in de 100-miljarden-parameter klasse mogelijk maakt op één enkele machine. HP vermeldt hierbij dat de harness kwantiseert op FP4.
Opslag en Netwerkmogelijkheden
- OS-opslag: Twee ingebouwde M.2-slots op PCIe 5.0, gekoppeld aan de Grace CPU, bevatten het besturingssysteem in een softwarematige RAID 1-mirror.
- Data-opslag: Twee extra M.2-slots via de PCIe-switch in de ConnectX-8 SuperNIC dienen als RAID 0-datavolume, met een keuze uit 2 TB of 4 TB zelfversleutelende NVMe-opslag bij aankoop.
- Netwerken: De ConnectX-8 beschikt over twee QSFP112-poorten van elk 400 Gbps (om twee ZGX Fury-systemen aan elkaar te koppelen), een 10 GbE RJ-45-poort voor de host, en een aparte 1 GbE RJ-45, Mini-DP en micro-USB voor de BMC.
I/O en Behuizing
De overige I/O is standaard voor werkstations: twee USB-A en twee USB-C poorten aan de voorzijde, vier extra USB-poorten aan de achterzijde, audio-aansluitingen, een Kensington-slot en een C20-stroomingang.
Er is geen directe beelduitgang van de GB300 zelf; HP biedt optioneel een NVIDIA RTX PRO GPU aan om monitoren aan te sturen, zodat de Blackwell Ultra GPU volledig gereserveerd blijft voor inferentie. De behuizing is een tower die ook wordt geleverd met rails voor een 5U rack-slot. HP maakt gebruik van vloeistofkoeling met geoptimaliseerde luchtstroom; een loop met een capaciteit van 1.400 W houdt de GPU bij volledige belasting op 71°C.
Software: Ubuntu, Z Runtime en Red Hat-certificering
De ZGX Fury wordt geleverd met Ubuntu 24.04 LTS en de AI-ontwikkelaarstools van NVIDIA, inclusief door NVIDIA goedgekeurde partner BIOS- en BMC-firmware. Daarnaast voegt HP twee eigen lagen toe:
- HP Z Runtime: Een vooraf geïnstalleerde command-line tool voor het ophalen, serveren en beheren van modellen op lokale systemen.
- HP Z Toolkit: Voegt open-source frameworks toe, MLflow-experiment tracking en Ollama-testen met discovery en synchronisatie tussen ZGX-systemen.
Dit stelt teams in staat om te prototypen op een ZGX Nano en dezelfde workflow over te zetten naar een ZGX Fury wanneer er meer geheugen, doorvoersnelheid of meer gelijktijdige gebruikers nodig zijn.
Integratie met Red Hat
HP kondigt aan dat de ZGX Fury gecertificeerd is voor Red Hat Enterprise Linux (RHEL) en is opgenomen in de Red Hat Ecosystem Catalog. Samen ontwikkelen HP en Red Hat een open AI-platform voor ondernemingen dat 'Red Hat AI Factory with NVIDIA' op de ZGX Fury draait.
Red Hat AI Factory with NVIDIA is een pakket bestaande uit RHEL, OpenShift en Red Hat AI Enterprise, samen met NVIDIA AI Enterprise, voor het implementeren van modellen, agenten en applicaties over een hybride cloud. Op de ZGX Fury is deze combinatie bedoeld om:
- De tijd voor het instellen van omgevingen en het implementatierisico te verminderen.
- De GPU-benutting te verbeteren via geoptimaliseerde CUDA-bibliotheken, scheduling en multi-GPU workload-orchestratie.
- Ontwikkelaars in staat te stellen rekenkracht naar de machine te verplaatsen zonder hun bestaande workflows te wijzigen.
Het platform is ontworpen om meerdere AI-workloads op één systeem te draaien met workload-isolatie en governance, waardoor de machine transformeert van een deskside-apparaat naar edge-infrastructuur die door IT beheerd kan worden.
Visie op Edge AI
Jim Nottingham, Senior Vice President en Division President of Advanced Compute and Solutions bij HP, stelt: "De toekomst van AI verschuift naar de plek waar mensen werken, machines opereren en kritische beslissingen worden genomen. Samen met Red Hat en NVIDIA breidt HP enterprise AI uit van het datacenter naar de edge met een open, enterprise-grade inferentieplatform."
Chris Marriott, Vice President of Enterprise Platforms and Solutions bij NVIDIA, vult aan dat het doel is om "krachtige AI lokaal te draaien, terwijl de veiligheid, schaalbaarheid en consistentie die ondernemingen eisen, behouden blijven."
Beschikbaarheid en Concurrentie
De ZGX Fury is nu bestelbaar via HP; de prijs werd in de aankondiging niet vermeld. De integratie van Red Hat AI Factory is een gepland onderdeel en geen direct leverbaar SKU; klanten kunnen dit eerst evalueren in een sandboxed omgeving op HP-apparaten.
De concurrentie in dit segment groeit snel: de MSI WS300 wordt geleverd met dezelfde superchip, en de AMD Threadripper Halo Station richt zich op soortgelijke workloads.
Groetjes,