L’accélérateur IA Gaudi 3 d’Intel vise à surpasser Nvidia
Bien que la course pour alimenter les ambitions massives des entreprises d’IA semble se concentrer sur Nvidia, il y a une véritable concurrence dans le domaine des puces accélératrices d’IA. Le dernier exemple en date est le Gaudi 3, la troisième génération d’accélérateur IA d’Intel, dont les détails architecturaux ont été dévoilés lors de l’événement Vision 2024 d’Intel cette semaine à Phoenix, en Arizona.
Points clés
- Le Gaudi 3 double la puissance de calcul de son prédécesseur, le Gaudi 2, grâce à deux puces identiques reliées par une connexion haut débit.
- Intel affirme que le Gaudi 3 est jusqu’à 40% plus rapide que le H100 de Nvidia pour l’entraînement de modèles de langage de grande taille comme GPT-3.
- En inférence, le Gaudi 3 atteint 95 à 170% des performances du H100 pour certains modèles Llama, et jusqu’à 4 fois mieux pour le modèle Falcon 180B.
- Intel met l’accent sur l’efficacité énergétique du Gaudi 3, avec des gains allant jusqu’à 220% et 230% par rapport au H100 pour les modèles Llama et Falcon respectivement.
- Le Gaudi 3 utilise la technologie de mémoire HBM2e, moins chère que le HBM3 ou HBM3e utilisé par la concurrence.
- Le Gaudi 3 est fabriqué en technologie 5 nm de TSMC, comme le H100, réduisant l’écart technologique avec Nvidia.
A retenir
Intel semble avoir comblé une partie de son retard technologique avec le Gaudi 3, en offrant des performances et une efficacité énergétique supérieures à celles du H100 de Nvidia, tout en restant plus abordable grâce à l’utilisation de la mémoire HBM2e. Cependant, l’arrivée prochaine du Blackwell B200 de Nvidia pourrait à nouveau changer la donne dans cette course aux accélérateurs IA.
