Contexte
Depuis 2023, les fabricants de puces (Apple, Qualcomm, Intel, AMD, NVIDIA, Google) intègrent des composants spécialisés pour l'IA dans leurs produits grand public. Smartphones, PC, serveurs : tous affichent désormais des "puces IA" ou des "moteurs neuronaux".
Mais derrière ce vocabulaire marketing, trois types de composants distincts coexistent : CPU, GPU et NPU/TPU. Leurs architectures, leurs usages et leurs performances diffèrent fondamentalement.
Les trois types de puces
Le CPU : Central Processing Unit
Le CPU est le processeur principal d'un appareil. Il exécute les instructions dans l'ordre, gère les tâches générales du système (lancement d'applications, gestion de la mémoire, logique conditionnelle) et dispose de quelques cœurs très puissants, entre 4 et 24 sur un PC moderne.
Il est efficace pour les tâches séquentielles et complexes, mais peu adapté aux calculs massivement parallèles que nécessite l'IA.
Le GPU : Graphics Processing Unit
Conçu à l'origine pour le rendu graphique (jeux vidéo, 3D), le GPU est composé de milliers de petits cœurs capables de traiter simultanément des opérations simples en parallèle.
Cette architecture est idéale pour les calculs matriciels, la base du deep learning. C'est pourquoi les GPU NVIDIA (série H100, H200) sont devenus le standard pour entraîner les grands modèles de langage et de vision.
La puce IA : NPU / TPU / Neural Engine
Le NPU (Neural Processing Unit) ou TPU (Tensor Processing Unit, terme utilisé par Google) est un composant conçu spécifiquement pour les calculs d'inférence IA : appliquer un modèle déjà entraîné à de nouvelles données.
Contrairement au GPU généraliste, le NPU est optimisé pour un type précis d'opération (multiplication de matrices de faible précision, quantification), ce qui le rend beaucoup plus efficace énergétiquement. Apple l'appelle "Neural Engine", Qualcomm "Hexagon NPU", Google "TPU".
En résumé : le GPU entraîne les modèles IA (beaucoup de calculs en parallèle, longue durée). Le NPU fait tourner ces modèles en local sur l'appareil (inférence rapide, faible consommation). Le CPU orchestre l'ensemble.
Tableau comparatif
| Critère | CPU | GPU | NPU / Puce IA |
|---|---|---|---|
| Nb de cœurs | 4 à 24 | Milliers | Variable (dédié) |
| Type de calcul | Séquentiel, logique | Parallèle massif | Inférence neuronale |
| Usage IA principal | Orchestration | Entraînement | Inférence locale |
| Consommation | Moyenne | Très élevée | Faible |
| Exemples | Intel Core, AMD Ryzen | NVIDIA H100, RTX 4090 | Apple Neural Engine, Hexagon NPU, Google TPU |
Ce que ça change concrètement
Pour un utilisateur final, la présence d'un NPU dans son appareil signifie :
- Des fonctions IA exécutées localement, sans envoi de données vers le cloud
- Une latence très faible (traitement en temps réel pour la transcription, la traduction, la retouche photo)
- Une consommation réduite : la batterie dure plus longtemps même avec des tâches IA actives
- Un fonctionnement hors ligne possible pour certains modèles légers
Pour un développeur ou une entreprise, la distinction CPU/GPU/NPU détermine quel matériel acheter ou louer :
- Entraîner un modèle → GPU cloud (AWS, GCP, Azure) ou cluster GPU on-premise
- Déployer un modèle léger en production → NPU embarqué ou CPU si le modèle est petit
- Faire tourner un LLM en local sur PC → GPU consommateur (RTX 3090/4090) ou NPU si le modèle est quantifié
Pourquoi les puces IA spécialisées se multiplient
L'essor de l'IA générative a créé un goulot d'étranglement : les GPU sont puissants mais coûteux, énergivores et difficiles à obtenir. Les fabricants de semiconducteurs ont donc investi massivement dans des architectures dédiées à l'inférence.
Apple a intégré un Neural Engine dès l'A11 Bionic en 2017. En 2026, la quasi-totalité des SoC mobiles (Apple M-series, Qualcomm Snapdragon X Elite, MediaTek Dimensity) embarquent un NPU capable d'exécuter des modèles de plusieurs milliards de paramètres.
Sur PC, Microsoft impose un seuil de 40 TOPS (Tera Operations Per Second) pour le label "Copilot+ PC", poussant Intel et AMD à intégrer des NPU dans leurs processeurs grand public (Intel Meteor Lake, AMD Ryzen AI).
Côté cloud, Google déploie ses TPU v5 pour ses propres modèles Gemini. NVIDIA répond avec la gamme Blackwell (B100, B200) qui optimise l'inférence à grande échelle.
À retenir
- CPU : polyvalent, séquentiel, indispensable mais pas optimal pour l'IA intensive
- GPU : standard pour entraîner les grands modèles IA, très parallèle mais énergivore
- NPU / Puce IA : conçu pour l'inférence locale, faible consommation, accélère les fonctions IA du quotidien
- Ces trois composants sont complémentaires, pas concurrents : ils interviennent à des étapes différentes du cycle IA
- La présence d'un NPU dans un appareil indique qu'il peut exécuter des tâches IA en local, sans cloud, avec une faible latence