Nvidia lance le GPU Blackwell B200, une révolution pour l'IA

C'était la star du show à la conférence sur les technologies GPU de Nvidia : le tout nouveau chip révolutionnaire pour l'informatique liée à l'IA, baptisé GB200, qui donne vie au GPU Blackwell B200. Ce petit bijou de technologie prend la relève du fameux H100, en lui mettant une sacrée claque niveau performances et efficacité.

Le B200, c'est un monstre de puissance capable de délivrer 20 pétaflops de FP4, grâce à ses 208 milliards de transistors. Mais ce n'est pas tout : par rapport au H100, il affiche une performance 30 fois supérieure pour les charges de travail d'inférence de modèles de langage (LLM), tout en consommant 25 fois moins d'énergie. Et pour couronner le tout, sur le benchmark GPT-3 LLM, il est sept fois plus véloce que son prédécesseur.

Pour vous donner une idée, entraîner un modèle doté de 1,8 trillion de paramètres nécessitait avant 8 000 GPU Hopper et environ 15 mégawatts. Maintenant, avec seulement 2 000 GPU Blackwell, on peut faire la même chose en dépensant juste 4 mégawatts.

Et Nvidia ne s'arrête pas là. Pour booster encore l'efficacité, ils ont conçu un nouveau chip pour les switchs de réseau, armé de 50 milliards de transistors, capable de connecter 576 GPU à une vitesse de 1,8 TB/s en bande passante bidirectionnelle. Adieu les galères de communication entre les GPUs, qui bouffaient 60% du temps des systèmes à 16 GPUs, laissant seulement 40% pour le calcul proprement dit.

Nvidia propose aux entreprises une solution clé en main. Par exemple, le GB200 NVL72, c'est une seule et même structure refroidie à liquide qui peut accueillir 36 CPU et 72 GPU. Et puis il y a le DGX Superpod pour le GB200, qui combine huit de ces systèmes en un seul mastodonte avec 288 CPU et 576 GPU, le tout avec 240TB de mémoire. Des géants comme Oracle, Amazon, Google et Microsoft sont déjà sur les rangs pour intégrer ces systèmes NVL72 à leurs services cloud.

Et pour ceux qui se projettent déjà dans le futur, sachez que l'architecture GPU du Blackwell B200 servira très probablement de base à la prochaine série RTX 5000. Qui a dit que l'avenir n'était pas déjà là ?