Helios: AMDs Rack-Scale-System soll Nvidia alt aussehen lassen

Summary

Helios: AMDs Rack-Scale-System soll Nvidia alt aussehen lassen AMD-CEO Lisa Su verspricht: Helios ist das leistungsfähigste und günstigste Rack-Scale-System auf dem Markt. Das steckt drin. Lisa Su zeigt die in Helios verbauten Chips: Neben MI455X und Venice Salina DPU und Vulcano NIC. Bild: AMD; Screenshot: Golem.de Im Rahmen seiner Veranstaltung Advancing AI hat AMD offiziell die nächste Generation seiner Hardware für KI-Rechenzentren gestartet. CEO Lisa Su gab im Rahmen ihrer Keynote dabei einen tieferen Einblick in den Aufbau des eigenen Rack-Scale-Systems Helios. Das kombiniert pro Blade vier MI455X mit einem speziell für Helios entwickelten Epyc mit 96 Kernen und einer Speicherbandbreite von 1,6 TByte/s. Für die Vernetzung der MI455X nutzt AMD Ultra Accelerator Link (UAL), die Anbindung an die CPU erfolgt über Infinity Fabric. Damit verbindet AMD auch bei Mehrsockelsystemen die einzelnen CPUs. Für das Scale-up-Netzwerk, das die GPUs im Cluster vernetzt, tunnelt AMD UAL über Ultra Ethernet (UALoE). Die Netzwerkhardware dafür ist direkt auf den GPU-Packages integriert.Die MI455X-GPUs sind individuell auf Platinen mit der erforderlichen Elektronik verbaut, was einen schnellen Tausch defekter Komponenten ermöglichen soll. Mit bis zu 40 Petaflops (FP4) und 432 GByte mit 23,3 TByte/s angebundenem HMB4 ist es laut Su der leistungsfähigste KI-Beschleuniger. AMD scheint hier die Rechenleistung ohne Sparsity (g+) zu meinen, mit Ausdünnung erreicht Nvidias Rubin-GPU 50 Petaflops.Den mit Rubin neu eingeführten LPUs für höhere Inferenzleistung stellt Nvidia eine Partnerschaft mit Cerebras entgegen: Deren Wafer Scale Engine (WSE) soll insbesondere zusammen mit MI455X für niedrige Latenz sorgen. Leistungsfähiger und günstiger als Nvidias RubinBesonders bei HBM-Kapazität und Bandbreite des Scale-out-Netzwerks liegt Helios deutlich vor Nvidias Oberon alias NVL72. Bei der Konkurrenz steht allerdings mit Kyber (g+) bereits ein noch dichter gepacktes Rack für Rubin Ultra an. Bild ...