Les puces pour l'IA : GPU, NPU et accélérateurs
Les assistants et les générateurs d’images qui ont envahi le quotidien depuis 2022 reposent sur une quantité de calculs presque inimaginable : des milliards de multiplications pour produire un seul mot. Les processeurs classiques, conçus pour exécuter toutes sortes de programmes l’un après l’autre, n’y suffisent pas. Une famille de puces spécialisées a donc émergé : les cartes graphiques (GPU, pour graphics processing unit), les unités neuronales (NPU, neural processing unit) des téléphones et des ordinateurs récents, les accélérateurs des grands centres de données, et d’autres. Cet article explique ce que ces puces calculent, pourquoi la mémoire compte autant que le calcul, comment la précision des nombres joue sur la vitesse, la différence entre entraîner et utiliser un modèle, les enjeux d’énergie, de coût et de souveraineté, et comment choisir selon son besoin.
- Rubrique
- Matériel
- Niveau
- Intermédiaire
- Lecture
- 27 min (essentiel)
29 min (complet) - Révision
- 30 octobre 2026
En bref
- Presque tout le calcul d’une IA se ramène à des multiplications de grands tableaux de nombres : un travail massivement parallèle, que des milliers de petits calculateurs font mieux qu’un processeur généraliste.
- Les GPU (cartes graphiques) dominent l’entraînement ; les NPU (unités neuronales intégrées) apportent l’IA locale sur téléphone et ordinateur ; d’autres accélérateurs (TPU, puces maison des grands du cloud) visent l’échelle des centres de données.
- Le goulot est souvent la mémoire : faire arriver les données aux unités de calcul assez vite compte autant que le nombre d’unités.
- Moins de bits par nombre (FP16, INT8, INT4) signifie un modèle plus petit et plus rapide, au prix d’une finesse légèrement moindre : c’est la quantification.
- Ces puces posent des questions d’énergie, de coût, de dépendance à quelques fabricants et de sécurité des modèles et des données.
Prérequis conseillés : Le processeur
1Pourquoi l’IA a besoin de puces à part
Un processeur d’ordinateur (voir le processeur) est un généraliste très compétent. Il sait exécuter un traitement de texte, un navigateur, un jeu, un tableur, en passant d’une tâche à l’autre à toute vitesse. Il dispose pour cela de quelques cœurs puissants, chacun capable de suivre des instructions complexes, de prendre des décisions (« si ceci, alors cela ») et de s’adapter. Cette polyvalence a un prix : chaque cœur est grand, coûteux en transistors et en énergie.
Un modèle d’intelligence artificielle moderne (voir l’intelligence artificielle et l’apprentissage automatique) demande un travail d’une autre nature. Il consiste à répéter, des milliards de fois, la même opération très simple (multiplier deux nombres puis additionner le résultat à un total) sur des quantités gigantesques de données. Il n’y a presque aucune décision à prendre, presque aucune instruction complexe : c’est de l’arithmétique répétitive. Pour ce travail, mieux vaut des milliers de petits ouvriers spécialisés qu’une poignée d’experts.
Une image : pour recopier à la main une immense bibliothèque, vous pouvez embaucher quatre érudits brillants ou quatre mille copistes appliqués. Si le travail se résume à copier, les copistes gagnent largement. Les puces pour l’IA sont les copistes : elles sacrifient la polyvalence pour multiplier le nombre d’unités de calcul et l’efficacité sur un seul type de tâche.
1.1L’ordre de grandeur
Pour mesurer l’enjeu : un grand modèle de langage (celui qui sous-tend un assistant conversationnel, voir l’IA générative) contient de l’ordre de dizaines à centaines de milliards de nombres, appelés « paramètres » ou « poids ». Pour produire un seul mot, le modèle effectue, grosso modo, une multiplication-addition par paramètre : des centaines de milliards d’opérations pour un mot, et un texte de cent mots en demande cent fois plus. L’entraînement, lui, répète ce travail sur des quantités de textes équivalentes à des millions de livres, avec des opérations supplémentaires pour corriger les poids. On compte les entraînements des plus grands modèles en milliers de puces travaillant des semaines ou des mois.
Aucun processeur généraliste ne tiendrait ce rythme à un coût raisonnable. La demande a donc tiré toute une industrie : en quelques années, les puces d’IA sont devenues l’un des produits les plus convoités, et les plus chers, de l’informatique.
1.2Le plan de l’article
La partie 2 explique ce que calculent ces puces (figure 1). La partie 3 présente les familles de puces (figure 2). La partie 4 est consacrée à la mémoire, la partie 5 à la précision des nombres (figure 3). La partie 6 distingue entraînement et inférence, la partie 7 l’IA dans le téléphone et l’ordinateur personnel, la partie 8 le centre de données. La partie 9 traite de l’énergie, du coût et de la souveraineté, la partie 10 de la sécurité, la partie 11 du choix d’une puce, et la partie 12 de l’avenir.
2Ce que calcule une puce d’IA
Pour comprendre ces puces, il faut comprendre le calcul qu’on leur demande. Heureusement, il est plus simple qu’on ne le croit.
2.1Des tableaux de nombres
Un modèle d’IA, c’est avant tout une très grande collection de nombres, les poids, organisés en tableaux (appelés matrices, ou, quand ils ont plus de deux dimensions, tenseurs). Ces poids ont été fixés pendant l’entraînement : ils contiennent, sous une forme que personne ne sait lire directement, ce que le modèle a « appris ». Quand on lui soumet une entrée (une phrase, une image), celle-ci est elle aussi transformée en tableau de nombres. Le calcul consiste alors à multiplier le tableau d’entrée par les tableaux de poids, puis à appliquer de petites transformations, et à recommencer couche après couche.
Comment multiplie-t-on deux tableaux ? Pour obtenir une case du résultat, on prend une ligne du premier tableau et une colonne du second, on multiplie les nombres deux à deux, et on additionne les produits. Avec des lignes de mille nombres, une seule case demande mille multiplications et mille additions ; avec un tableau résultat de mille par mille cases, on atteint un milliard d’opérations pour une seule multiplication de tableaux. Et un modèle en contient des centaines.
Deux propriétés de ce calcul sont décisives. La première : il est massivement parallèle. Les cases du résultat sont indépendantes les unes des autres ; on peut calculer des milliers de cases en même temps sans qu’elles s’attendent. La deuxième : il est prévisible. On sait à l’avance quelles données seront nécessaires, dans quel ordre : pas de surprise, pas de branchement imprévisible. Ces deux propriétés sont exactement ce que savent exploiter des puces conçues pour faire beaucoup de petits calculs identiques.
2.2Mesurer la puissance
Comment compare-t-on ces puces ? Par le nombre d’opérations qu’elles effectuent par seconde. Pour les nombres à virgule, on parle de FLOPS (floating point operations per second, opérations à virgule flottante par seconde). On emploie les préfixes habituels : un téraflops, c’est mille milliards d’opérations par seconde ; un pétaflops, mille fois plus. Pour les nombres entiers, que les puces de téléphone utilisent beaucoup, on parle de TOPS (tera operations per second). Ces chiffres sont des maximums théoriques, que l’on n’atteint presque jamais en pratique : tout dépend de la précision utilisée (partie 5), de la taille des tableaux, de la mémoire et du logiciel. Un chiffre de TOPS sur une boîte de produit est un indice, pas une garantie. Deux puces affichant le même chiffre peuvent, dans les faits, se comporter très différemment sur un modèle donné.
2.3Les unités matricielles
Puisque la multiplication de tableaux est le cœur du travail, les concepteurs ont créé des circuits qui multiplient de petits tableaux d’un seul coup. Chez les fabricants de cartes graphiques, ils s’appellent des « cœurs de tenseurs » (apparus en 2017) ; chez Google, des « unités de multiplication de matrices » organisées en réseaux, qu’on nomme réseaux systoliques parce que les données y circulent d’une unité à l’autre comme le sang dans le corps ; dans les puces neuronales des téléphones, des « moteurs neuronaux ». Le principe est le même : au lieu de demander mille instructions séparées, on envoie une seule commande « multiplie ces deux blocs » à un circuit fait pour cela.
Pour s’exercer
Exercice 1 : pourquoi un GPU et pas un CPU ?
Expliquez en quelques phrases pourquoi un GPU convient mieux qu’un CPU pour les calculs d’un modèle d’IA.
Voir la réponse
Le calcul d’un modèle se ramène à de très nombreuses multiplications et additions identiques, indépendantes les unes des autres et prévisibles. Un GPU possède des milliers de petits cœurs qui les traitent en parallèle, avec une mémoire à très grand débit. Un CPU a peu de cœurs, puissants et polyvalents, conçus pour des instructions variées et des décisions : il est sous-employé et plus lent pour ce travail uniforme.