NVIDIA ha annunciato che Dell Technologies, Hewlett Packard Enterprise e Lenovo saranno le prime a integrare le tecnologie di networking Ethernet per l'AI di NVIDIA Spectrum-X(TM) nelle loro lineup di server per aiutare i clienti aziendali a velocizzare i carichi di lavoro di AI generativa. Realizzato appositamente per l'AI generativa, Spectrum-X offre alle aziende una nuova classe di networking Ethernet che può raggiungere prestazioni di networking 1,6 volte superiori per la comunicazione AI rispetto alle offerte Ethernet tradizionali. I nuovi sistemi provenienti da tre dei principali produttori di sistemi riuniscono Spectrum-X con le GPU NVIDIA Tensor Core, il software NVIDIA AI Enterprise e il software NVIDIA AI Workbench per fornire alle imprese gli elementi di base per trasformare le loro aziende con l'AI generativa.

Per ottenere il massimo dell'efficienza dei carichi di lavoro AI, Spectrum-X combina le prestazioni estreme dello switch Ethernet Spectrum-4; l'NVIDIA BlueField®-3 SuperNIC, una nuova classe di acceleratori di rete per la sovralimentazione dei carichi di lavoro AI in hyperscale; nonché il software di accelerazione. Spectrum-X integra le DPU BlueField-3, la piattaforma di computing infrastrutturale più avanzata al mondo. Spectrum-4 è il primo switch Ethernet da 51Tb/sec al mondo per l'AI, che offre un throughput di dati altamente efficace su scala e sotto carico, riducendo al minimo la congestione della rete per i carichi di lavoro cloud AI multi-tenant.

La sua tecnologia di routing intelligente e ottimizzata consente il massimo utilizzo dell'infrastruttura di rete in qualsiasi momento. Le SuperNIC BlueField-3 sono progettate per l'elaborazione in parallelo massivo ad alta intensità di rete, offrendo una connettività di rete RDMA over Converged Ethernet (RoCE) fino a 400 Gb/s tra i server GPU e aumentando le prestazioni del traffico di formazione e inferenza AI sulla rete est-ovest all'interno del cluster. Inoltre, consentono ambienti di data center sicuri e multi-tenant, garantendo prestazioni deterministiche e isolate tra i lavori dei tenant.

Con un fattore di forma PCIe a metà altezza e metà lunghezza, efficiente dal punto di vista energetico, i SuperNIC BlueField-3 sono ideali per i server di classe enterprise. Il software di accelerazione che alimenta Spectrum-X comprende kit di sviluppo software di NVIDIA come Cumulus Linux, Pure SONiC e NetQ?

e il framework software NVIDIA DOCA?, che è il cuore di BlueField. NVIDIA AI Enterprise offre framework, modelli preaddestrati e strumenti di sviluppo per un'AI di produzione sicura, stabile e supportata.

NVIDIA AI Workbench permette agli sviluppatori di creare, testare e personalizzare rapidamente i modelli di AI generativa pre-addestrati su un PC o una workstation? Poi li scala praticamente su qualsiasi data center o cloud. I nuovi sistemi di Dell, HPE e Lenovo con lo stack completo di NVIDIA AI sono attesi per il primo trimestre del prossimo anno.