Google révélé la sixième itération de son Tensor Processing Unit (TPU), nommée Trillium, pour les centres de données du Conférence des développeurs I/O 2024. Bien que la date de sortie exacte reste indéterminée, Google a confirmé que Trillium sortirait plus tard cette année.
Le PDG de Google, Sundar Pichai, a souligné l’engagement de longue date de l’entreprise en faveur de l’innovation en matière d’IA, en déclarant : « Google est né pour ce moment. Nous sommes pionniers dans le domaine des GPU depuis plus d’une décennie.
Que propose Trillium TPU ?
Pichai a ensuite révélé les améliorations substantielles des performances de Trillium. Ce TPU de sixième génération offre une puissance de calcul par puce 4,7 fois supérieure à celle de la génération précédente. Cette amélioration est obtenue grâce aux progrès de l’unité de multiplication matricielle (MXU) de la puce et à une augmentation de la vitesse d’horloge globale. De plus, Trillium bénéficie d’une bande passante mémoire deux fois supérieure.
Trillium intègre également la technologie SparseCore de troisième génération de Google., décrit comme « un accélérateur spécialement conçu pour les tâches courantes à grande échelle dans les charges de travail avancées de classement et de recommandation ». Cela permet aux TPU Trillium d’entraîner les modèles plus rapidement et de fournir une latence plus faible lors de la diffusion de ces modèles.
Google s’est également concentré sur l’efficacité énergétique, Pichai qualifiant Trillium de TPU « le plus économe en énergie » à ce jour. Ceci est particulièrement important compte tenu de la demande croissante de puces IA, qui peuvent avoir un impact environnemental important. Google affirme que Trillium est 67 % plus économe en énergie que son prédécesseur.
«Trillium peut évoluer jusqu’à 256 TPU dans un seul module à large bande passante et à faible latence. Au-delà de cette évolutivité au niveau des pods, grâce à la technologie multislice et aux unités de traitement intelligent (IPU) Titanium, les TPU Trillium peuvent évoluer jusqu’à des centaines de pods, connectant des dizaines de milliers de puces dans un superordinateur à l’échelle d’un bâtiment interconnecté par un réseau multi-pétabits par seconde. réseau de centres de données. «
Alors que les projecteurs sont souvent braqués sur les annonces logicielles et les avancées de l’IA, ce sont les développements matériels robustes comme Trillium qui alimentent ces avancées et les rendent possibles. Le dévoilement de ce nouveau TPU souligne une vérité fondamentale dans le monde de la technologie : la puissance de traitement est tout.
Les TPU Trillium font partie intégrante de l’hyperordinateur IA de Google Cloud, un framework de calcul intensif avancé spécialement conçu pour les charges de travail d’IA haut de gamme. Cette architecture combine une infrastructure aux performances optimisées, notamment les TPU Trillium, avec des cadres logiciels open source et des modèles de consommation adaptables.
L’engagement de Google envers les bibliothèques open source telles que JAX, PyTorch/XLA et Keras 3 permet aux développeurs d’innover librement. La prise en charge de JAX et XLA garantit que les descriptions de modèles déclaratifs conçus pour les générations précédentes de TPU sont entièrement compatibles avec les nouvelles capacités matérielles et réseau des TPU Trillium. De plus, Google collabore avec Hugging Face sur Optimum-TPU pour simplifier le processus de formation et de déploiement du modèle.
Les Google Cloud TPU représentent le summum de l’accélération de l’IA, conçus et optimisés pour alimenter des modèles d’intelligence artificielle à grande échelle. Disponibles exclusivement via Google Cloud, ces TPU offrent des performances et une rentabilité inégalées pour la formation et le déploiement de solutions d’IA. Qu’il s’agisse de traiter les complexités complexes des grands modèles de langage ou les exigences créatives de la génération d’images, les TPU permettent aux développeurs et aux chercheurs de repousser les frontières de l’intelligence artificielle.
Crédit image en vedette : Rajeshwar Bachu/Unsplash
