Et AI-datacenter får ikke meget ud af flere chips, hvis maskinerne står og venter på hinanden. NVIDIA og Cisco vil nu øge kapaciteten i de optiske forbindelser med et nyt modulformat, USFP, som skal flytte mere data på den samme plads.
Planen blev annonceret 12. oktober. Ifølge selskaberne kan formatet give fire gange så høj båndbreddetæthed som de 200 gigabit pr. sekund pr. bane-moduler, de sammenligner med. De oplyser også omkring 1,3 gange så høj energieffektivitet. Det er producenternes mål, ikke resultater fra en uafhængig test.
Når forbindelserne bliver flaskehalsen
AI-systemer består af mange maskiner, som skal udveksle data. Når en netværksswitch løber tør for forbindelser eller kapacitet, kan udvidelsen kræve ekstra lag af netværksudstyr. Så følger flere komponenter, mere strømforbrug og flere led på dataenes vej.
USFP er tænkt som en måde at få mere gennem den enkelte forbindelse og flere forbindelser ind på samme frontpanel. For datacenteroperatøren er gevinsten derfor plads og kapacitet, ikke et nyt navn på endnu en kasse.
Et modul, der stadig kan skiftes
USFP står for Ultra-Dense Small Form Factor Pluggable. Den sidste del er vigtig: Modulerne skal fortsat kunne sættes i og udskiftes, frem for at den optiske forbindelse bliver en fast del af hele systemet.
NVIDIA og Cisco arbejder med TE Connectivity og Amphenol om stik, holdere og moduler. Selskaberne vil desuden udvikle en åben branchespecifikation gennem et fælles projekt. Der er altså tale om et planlagt hardwareformat og et samarbejde om at bygge et marked omkring det, ikke en forbrugerlansering.
AI-regningen har også et netværk
For den, der bruger AI gennem en app, ændrer meddelelsen ikke noget i dag. Den viser til gengæld, hvorfor AI-infrastruktur er mere end grafikkort: Maskinerne skal også forbindes, køles og holdes i drift.
Hvis et datacenter kan udvide uden at bygge endnu et lag netværk, kan det bruge sit eksisterende anlæg bedre. Det er den konkrete ambition bag USFP. Om besparelsen når videre til kundernes regning, kan man ikke læse ud af et moduls datablad.
Teknikken og sammenligningsgrundlaget er beskrevet i NVIDIA og Ciscos officielle meddelelse.
Aktører i artiklen
