Aller au contenu
Encyclopédie informatique Édition 2026

Les puces pour l'IA : GPU, NPU et accélérateurs

Partie 4 sur 5

Niveau de lecture :

7L’IA dans votre poche et sur votre bureau

La nouveauté des années 2024 à 2026 est l’arrivée de ces puces dans les appareils personnels. Un téléphone récent (voir le smartphone) contient un NPU capable de faire fonctionner localement des tâches comme la transcription de la parole, la traduction, le détourage des photos, la reconnaissance du texte dans une image, et de plus en plus des assistants de petite taille. Un ordinateur portable récent associe, dans la même puce, un CPU, un GPU intégré et un NPU.

7.1Pourquoi calculer en local

L’exécution locale présente plusieurs avantages : la confidentialité (vos documents, vos photos, votre voix ne quittent pas l’appareil), la disponibilité (sans connexion, dans le train, en zone mal couverte), la réactivité (pas d’aller-retour vers un serveur), et l’absence d’abonnement par requête. Ses limites : des modèles plus petits, donc moins capables que les plus grands modèles hébergés ; une consommation de batterie ; de la chaleur ; et un besoin de mémoire (voir l’IA locale). Le mouvement actuel est celui d’un partage du travail : le local pour ce qui est personnel, rapide et simple, le nuage pour ce qui est lourd.

7.2Que regarder en achetant

Pour faire tourner de petits modèles chez soi, trois critères comptent, par ordre d’importance. D’abord la quantité de mémoire accessible à la puce (16 gigaoctets sont un minimum raisonnable pour de petits assistants, 32 ou plus pour des modèles plus capables). Ensuite le débit mémoire. Enfin seulement la puissance de calcul affichée (les TOPS du NPU). Le chiffre de TOPS, mis en avant par la publicité, est le moins prédictif des trois. Vérifiez aussi que les logiciels que vous comptez utiliser savent exploiter le NPU ou le GPU de la machine : une puce inemployée ne sert à rien.

Pour s’exercer

Exercice 5 : lire une fiche commerciale

Un ordinateur annonce « NPU de 50 TOPS » et 8 gigaoctets de mémoire. Un autre annonce « NPU de 20 TOPS » et 32 gigaoctets de mémoire. Pour faire tourner localement un assistant de taille moyenne, lequel choisissez-vous, et pourquoi ?

Voir la réponse

Le second, très probablement. Les TOPS sont un maximum théorique ; la quantité de mémoire conditionne la taille des modèles qui tiennent, et le débit mémoire borne la vitesse de réponse. Avec 8 gigaoctets, seuls de très petits modèles tiennent, et il faut encore partager avec le système. Il faudrait aussi vérifier le débit mémoire des deux machines et la prise en charge du NPU par les logiciels visés.

8Le centre de données

À l’autre extrémité, les grands centres de calcul rassemblent des dizaines de milliers d’accélérateurs. Une armoire de serveurs dotée de cartes d’IA peut consommer plusieurs dizaines de kilowatts, soit autant que plusieurs dizaines de foyers, concentrés sur quelques mètres carrés. Ce qui paraissait réservé aux supercalculateurs est devenu l’ordinaire du nuage.

Cette concentration pose des défis d’ingénierie : refroidir (l’air ne suffit plus, on passe au refroidissement par liquide), alimenter (des raccordements électriques de la taille de ceux d’une petite ville), relier (réseaux très rapides entre les machines), et placer. On y voit un changement de nature du centre de données (voir le cloud) : de simple hébergeur de sites et de bases de données, il devient une « usine à calculer » dont l’emplacement dépend de l’accès à l’énergie.

Pour l’utilisateur, ce qui compte est le modèle de service : on loue le calcul à l’heure ou à la requête, plutôt que d’acheter les puces. Cela donne accès à des moyens inaccessibles autrement, mais crée une dépendance envers le fournisseur (tarifs, disponibilité, conditions, localisation des données).

9Énergie, coût, dépendances

9.1L’énergie

Chaque puce d’IA moderne dissipe plusieurs centaines de watts, et un grand entraînement mobilise des milliers de puces pendant des semaines. La consommation électrique des centres de données, longtemps stable grâce aux gains d’efficacité, croît de nouveau fortement avec l’IA, et les opérateurs et les pouvoirs publics s’en préoccupent. Trois leviers existent : des puces plus efficaces (davantage d’opérations par watt), des modèles plus petits et mieux conçus (un petit modèle bien entraîné suffit souvent), et un usage raisonné (ne pas appeler un très grand modèle pour une tâche triviale). L’efficacité par opération progresse vite, mais l’usage croît encore plus vite : l’effet est celui d’un « rebond », où les économies unitaires sont absorbées par la hausse du volume.

9.2Le coût

Les accélérateurs haut de gamme coûtent des dizaines de milliers d’euros pièce, et leurs délais d’approvisionnement ont parfois dépassé l’année. S’y ajoutent l’énergie, le refroidissement, les réseaux et le personnel. Pour la plupart des organisations, la question n’est pas « quelle puce acheter ? » mais « louer ou posséder ? », puis « quelle taille de modèle me suffit ? ». Les réponses dépendent de la régularité de l’usage : une charge constante et prévisible justifie parfois d’acheter ; une charge irrégulière se loue.

9.3Fabrication et dépendances

La fabrication des puces avancées est concentrée : un très petit nombre d’usines au monde savent graver les circuits les plus fins, dont une part essentielle se situe à Taïwan, avec des équipements de gravure fournis par une seule société européenne pour les techniques les plus avancées. La mémoire HBM est produite par trois fabricants. Cette concentration crée des dépendances géopolitiques : les États-Unis ont, depuis octobre 2022, instauré et durci des restrictions à l’exportation de puces d’IA avancées vers certains pays, et l’Europe, la France et d’autres États cherchent à développer des capacités propres ou des alliances (voir la chaîne d’approvisionnement). Pour une organisation, la question de la souveraineté se pose sous deux angles : où sont les calculs, et qui les contrôle ? Un modèle hébergé hors d’Europe tombe sous d’autres juridictions.

9.4Le poids du logiciel

Enfin, le logiciel pèse autant que le matériel. Une puce n’est utile que si les outils savent s’en servir. L’avance des GPU dominants vient autant de leur écosystème (compilateurs, bibliothèques, outils de mise au point) que de leur puissance brute. Les concurrents travaillent à des couches logicielles ouvertes pour réduire cette dépendance. Quand vous évaluez une puce, regardez donc aussi : les modèles et outils que vous utilisez fonctionnent-ils dessus sans adaptation ?

Pour s’exercer

Exercice 6 : louer ou acheter

Une petite société veut un assistant interne sur ses documents, utilisé quelques heures par jour par vingt personnes, avec des données confidentielles. Quelles options comparez-vous ?

Voir la réponse

Trois pistes : un service hébergé auprès d’un fournisseur de confiance (rapide à mettre en place, mais les données sortent de l’entreprise : il faut vérifier lieu d’hébergement, contrat, usage des données) ; un serveur interne avec une ou deux cartes graphiques et un modèle ouvert de taille moyenne quantifié (données maîtrisées, investissement et maintenance à prévoir) ; une location de capacité dédiée dans un nuage de confiance, avec des données chiffrées. Pour un usage de quelques heures par jour, la charge est irrégulière, ce qui favorise la location ; la confidentialité pèse pour le local ou le nuage souverain. On compare aussi le coût total, la compétence disponible et le risque de dépendance.

Exercice 7 : les enjeux de société

Citez quatre enjeux, autres que techniques, soulevés par la montée des puces d’IA, et une action possible pour chacun.

Voir la réponse

(1) L’énergie : des centres de données plus efficaces, des modèles plus petits, un usage raisonné. (2) La dépendance à quelques fabricants et usines : diversifier les fournisseurs, soutenir des capacités européennes, favoriser le logiciel ouvert. (3) La confidentialité : calcul local ou environnements de confiance pour les données sensibles. (4) L’accès inégal : des moyens mutualisés (calcul public, universités) pour éviter que seuls les très grands acteurs puissent entraîner des modèles. On peut ajouter l’impact matériel (extraction de métaux, eau de refroidissement) et la fin de vie des équipements.