NVIDIA a dévoilé son supercalculateur IA de nouvelle génération, le NVIDIA DGX SuperPODspécialement conçu pour répondre aux immenses exigences informatiques de l’IA générative.
Ce système puissant exploite les prouesses de traitement des superpuces NVIDIA GB200 Grace Blackwell. Chaque système DGX GB200 héberge 36 de ces superpuces, qui intègrent 36 processeurs NVIDIA Grace et 72 GPU NVIDIA Blackwell.
Grâce à la technologie NVIDIA NVLink de cinquième génération, ces superpuces fonctionnent de manière cohérente comme un supercalculateur unique hautes performances.
Le cœur du DGX SuperPOD
Le DGX SuperPOD propulsé par Grace Blackwell offre une immense évolutivité. Il démarre avec au moins huit systèmes DGX GB200 et évolue facilement pour intégrer des dizaines de milliers de superpuces GB200 interconnectées via NVIDIA Quantum InfiniBand.
Les clients cherchant à alimenter des modèles d’IA de nouvelle génération avec des besoins massifs en mémoire partagée peuvent configurer un cluster système de huit DGX GB200, reliant 576 GPU Blackwell via NVLink.
- Chaque système DGX GB200 possède 36 superpuces NVIDIA GB200 Grace Blackwell
- Ces superpuces sont connectées pour fonctionner comme un seul supercalculateur
- Les superpuces GB200 offrent une impressionnante amélioration des performances 30 fois par rapport aux GPU NVIDIA H100 Tensor Core
Apprenez à connaître le GB200
Le Superpuce GB200avec une puissante combinaison de processeurs Grace et de GPU Blackwell, est spécifiquement conçu pour répondre aux besoins informatiques exigeants des modèles d’IA générative à grande échelle. Dans ces modèles complexes, l’intégration étroite des éléments CPU et GPU est cruciale pour des performances optimales.
Les modèles d’IA générative connaissent une croissance rapide. Le GB200 est conçu pour gérer les charges de travail complexes de formation et d’inférence pour les modèles qui fonctionnent à l’échelle de plusieurs milliards de paramètres et au-delà.
Les superpuces GB200 offrent une étonnante augmentation de performances de 30 fois par rapport au GPU NVIDIA H100 Tensor Core dans l’inférence de modèles de langage étendus. Ce type d’amélioration des performances est essentiel pour suivre le rythme de l’évolution rapide de l’IA générative.
L’architecture à l’échelle du rack du DGX SuperPOD est optimisé pour des performances maximales en tirant parti des capacités du GB200 Superchip. Cela garantit que les flux de travail d’IA générative sont gérés de manière transparente à grande échelle.
Évoluer pour répondre à des demandes sans précédent
NVIDIA a introduit une nouvelle architecture à l’échelle rack refroidie par liquide, optimisée pour les exigences de l’IA générative. Aux côtés des DPU NVIDIA BlueField-3 et du réseau NVIDIA Quantum-X800 InfiniBand, cela crée une structure informatique unifiée.
La plateforme offre un 1 800 gigaoctets par seconde de bande passante pour chaque GPU. De plus, le protocole SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) NVIDIA de quatrième génération fournit 14,4 téraflops d’informatique en réseau – des performances multipliées par quatre par rapport à l’architecture précédente.
Solution complète de supercalcul IA
Le DGX SuperPOD offre une solution complète de supercalcul IA.
Pour gérer la complexité des charges de travail d’IA générative, il s’intègre de manière transparente aux solutions de stockage hautes performances des partenaires certifiés NVIDIA. Pour rationaliser le déploiement, chaque système est assemblé, câblé et testé en usine.
Des capacités de gestion prédictive intelligente surveillent en permanence des milliers de points de données matérielles et logicielles, maximisant ainsi la disponibilité et minimisant les temps d’arrêt.
Disponibilité et au-delà
NVIDIA a également annoncé le système NVIDIA DGX B200, une plate-forme fondamentale de calcul intensif unifiée pour l’IA utilisée à l’échelle mondiale dans tous les secteurs.
Le DGX SuperPOD de NVIDIA avec les superpuces GB200 promet d’accélérer les progrès de l’IA générative. Du développement de médicaments aux simulations scientifiques et à la création de contenu, les applications potentielles de cette technologie promettent de remodeler les industries.
Le parcours de l’IA de NVIDIA
Le DGX SuperPOD de NVIDIA avec les superpuces GB200 représente une étape importante dans le le parcours continu de l’entreprise en matière d’IA.
NVIDIA a constamment testé les limites de ce qui est possible en matière de supercalcul, alimenter l’innovation dans un large éventail d’industries. Les capacités libérées par ce dernier système ouvrent la voie à des avancées encore plus transformatrices dans le domaine passionnant de l’IA générative.
NVIDIA DGX SuperPOD avec les systèmes DGX GB200 et DGX B200 sont devrait être disponible plus tard cette année auprès des partenaires mondiaux de NVIDIA.
Crédit image en vedette: Kerem Gülen/DALL-E 3.
