22 juin 2026 : Les actions américaines du secteur des semi-conducteurs ont enregistré une forte hausse généralisée — le Philadelphia Semiconductor Index a bondi de 6,42 % en une seule journée. Intel a grimpé de plus de 10 % après l’annonce d’un partenariat de fabrication de puces avec Apple. L’ADR de TSMC a progressé de 6,94 % pour clôturer à 462,12 $, tandis que Nvidia a gagné près de 3 %. Ce mouvement de marché reflète une mutation accélérée du secteur : la demande en calculs d’IA évolue, passant d’un modèle axé sur l’entraînement à un modèle dominé par l’inférence.
Les analyses sectorielles montrent que l’inférence représente désormais les deux tiers de la demande totale en calculs d’IA, contre environ un tiers en 2023, et devrait atteindre 70 à 85 % d’ici 2028–2030. Ce changement structurel redéfinit le terrain principal de la concurrence entre fabricants de puces : on passe de « qui dispose du GPU le plus rapide pour l’entraînement » à « quelle puce offre le coût total d’inférence le plus bas et le débit le plus élevé ».
Le marché mondial des puces d’inférence IA est évalué à 85,4 milliards de dollars en 2024 et devrait croître de 105,47 milliards en 2025 à 570,77 milliards d’ici 2033, avec un taux de croissance annuel composé (TCAC) de 23,5 % sur la période de prévision. Le seul marché des puces d’inférence IA dans le cloud est estimé à 102,19 milliards de dollars en 2025, devrait atteindre 118,9 milliards en 2026 et pourrait s’élever à 320,98 milliards d’ici 2032. Parallèlement, le marché mondial des chipsets IA en périphérie (incluant l’inférence et l’entraînement) devrait passer de 34,4 milliards en 2026 à 96 milliards en 2031.
Au cours de ce cycle d’expansion, l’équilibre des forces entre les différents types de puces évolue de façon subtile mais profonde. Les GPU restent les acteurs dominants du marché, portés à la fois par la demande d’entraînement et d’inférence, et devraient maintenir un TCAC de 20 % jusqu’en 2031. Toutefois, de nombreux établissements considèrent les ASIC IA comme le segment connaissant la croissance la plus rapide. Les analystes de JPMorgan estiment que le marché des ASIC IA numériques atteindra 60 à 70 milliards de dollars d’ici 2026, avec un TCAC supérieur à 40–50 % dans les prochaines années.
Encore plus remarquable, le retour en force des CPU. Depuis trois ans, les CPU occupaient une place périphérique dans les récits sur l’IA, mais l’explosion de la demande en inférence est en train de transformer cet état de fait.
Pourquoi les CPU reviennent sur le devant de la scène
L’inférence et l’entraînement en IA diffèrent fondamentalement dans leur logique de calcul. L’entraînement implique d’énormes opérations matricielles parallèles — des milliers de milliards de calculs en virgule flottante exécutés simultanément sur des milliers de cœurs GPU, domaine d’excellence des GPU. L’inférence, en particulier pour l’IA agentique, suppose l’orchestration de tâches, l’appel d’outils, le raisonnement logique multi-étapes et la prise de décision séquentielle. Ces charges de travail reposent fortement sur la gestion de logiques complexes et le traitement sériel, domaines où les CPU excellent.
Une étude conjointe de Georgia Tech et Intel a révélé que, dans les scénarios d’IA agentique, 50 à 90 % de la latence provient du CPU, et non de l’accélérateur de calcul — car les grands modèles doivent appeler des plugins, effectuer des recherches web et gérer des logiques multi-étapes, toutes orchestrées par le CPU. Nvidia elle-même a reconnu cette réalité en mars 2026 : le dirigeant Dion Harris a publiquement déclaré que « le CPU devient le goulet d’étranglement dans les flux de travail IA » — un aveu marquant de la part d’une entreprise fondée sur la conviction que « les GPU sont les seules puces nécessaires à l’IA ».
Les évolutions des ratios de configuration illustrent clairement cette tendance. Pour l’entraînement IA, les ratios CPU/GPU sont généralement extrêmes, de l’ordre de 1:8, les GPU supportant l’essentiel de la charge de calcul. Mais à l’ère de l’inférence, TrendForce indique que ce ratio se resserre rapidement, entre 1:1 et 1:2. Le PDG d’Intel, Pat Gelsinger, a souligné lors de la présentation des résultats du T1 2026 que les charges d’entraînement nécessitent généralement 7 à 8 GPU par CPU, alors que pour l’inférence, on passe à 3 à 4 GPU par CPU, avec la perspective d’atteindre un équilibre de 1:1.
En se référant aux estimations du PDG de Nvidia, Jensen Huang : chaque centre de données de taille gigawatt nécessite environ 300 000 GPU Rubin, et, sur la base de 136 cœurs par CPU ARM, environ 221 000 CPU par GW. Cela fixe le nouveau ratio CPU/GPU à environ 1:1,4. Comparé à l’ère dominée par les GPU, le statut du CPU s’est nettement renforcé.
Le fossé des GPU et les défis des charges d’inférence
Malgré le regain d’intérêt pour les CPU, les GPU conservent une position irremplaçable dans l’inférence IA, grâce à leurs avantages en matière de bande passante mémoire et de débit parallèle.
Lors de l’inférence de LLM, la génération de chaque jeton nécessite de lire des centaines de millions à plusieurs dizaines de milliards de paramètres — une tâche typiquement gourmande en mémoire. Les CPU s’appuient sur la mémoire DDR système, offrant généralement une bande passante de 50 à 100 Go/s. Les GPU utilisent de la mémoire GDDR6X ou HBM, avec une bande passante dépassant 800 Go/s ; les GPU haut de gamme équipés de HBM2e atteignent 1,5 To/s, soit 20 fois celle des CPU. Pour l’inférence du modèle Llama 3.1 8B, les solutions CPU atteignent seulement 819 jetons/s par tâche, alors qu’un cluster de 8 GPU atteint 46 841 jetons/s. À mesure que les requêtes simultanées augmentent, la performance CPU chute brutalement de 819 à 257 jetons/s, tandis que le cluster 8 GPU ne subit pratiquement aucune dégradation.
En termes de densité de calcul, les GPU offrent des milliers de cœurs CUDA pour la parallélisation, prennent en charge des formats basse précision comme FP4/FP8, et délivrent des centaines de TFLOPS. Les CPU proposent généralement des calculs FP32 dans une plage de 1 à 10 TFLOPS.
Ces chiffres montrent que pour les scénarios d’inférence à haut débit et forte concurrence — comme les services IA cloud à grande échelle — les GPU demeurent la solution optimale. La position de leader de Nvidia dans ce domaine reste incontestée. Selon SemiAnalysis, Nvidia détenait 92 % du marché des puces d’entraînement IA et 78 % du marché des puces d’inférence au T1 2026. IDC estime la part de Nvidia à environ 81 % du marché des puces IA. Le marché des accélérateurs IA devrait atteindre 160 milliards de dollars en 2025 et plus de 200 milliards en 2026, avec l’inférence représentant les deux tiers des dépenses.
Cependant, la part de marché des GPU dans l’inférence fait face à de multiples pressions — retour des CPU, concurrence des ASIC spécialisés, et considérations de coûts pratiques.
L’offensive des fournisseurs de CPU sur l’inférence
La revalorisation des CPU pour l’inférence se traduit par une dynamique de marché mesurable.
Le marché des processeurs pour centres de données connaît une croissance rapide, portée par la demande croissante en charges de travail génératives IA. Sa taille devrait passer de 215 milliards de dollars en 2025 à 656 milliards en 2031. Guohai Securities note que les centres de données hyperscale entrent dans un « cycle de renouvellement », avec des livraisons de CPU serveurs attendues en hausse de 25 % en 2026.
AMD est l’un des grands bénéficiaires de cette tendance. La demande en serveurs IA stimule les livraisons de CPU EPYC, la cinquième génération Turin ayant capté une part significative du marché des CPU serveurs. L’activité CPU serveurs d’AMD devrait croître d’au moins 50 % en 2026. Les analystes de Bernstein prévoient que les ventes du processeur phare EPYC pourraient bondir de 30 % en 2026. Début 2026, Intel détient environ 60 % du marché CPU pour centres de données, AMD environ 24 %, et Nvidia environ 6 %. AMD concurrence également sur le marché des GPU IA avec ses accélérateurs Instinct, lui conférant un positionnement double unique à l’ère de l’inférence.
Intel ajuste également activement sa stratégie. Lors du Computex de juin 2026, le nouveau PDG Pat Gelsinger a annoncé le retour des CPU au premier plan à l’ère de l’inférence, s’appuyant sur la technologie de gravure 18A et des architectures découplées à l’échelle des racks. L’infrastructure IA évolue du « tout-en-un » vers « l’assemblage façon Lego ». Les processeurs Xeon d’Intel intègrent les Advanced Matrix Extensions (AMX), qui accélèrent l’inférence pour les grands modèles de langage à taille de paramètres petite à moyenne, même sans GPU ni autres accélérateurs IA.
Le changement le plus symbolique vient de Nvidia elle-même. L’entreprise qui a défini l’ère IA avec les GPU a lancé en 2026 ses gammes de CPU Grace et Vera, les Vera étant spécifiquement conçus pour l’inférence et les charges IA agentiques. Nvidia prévoit que le chiffre d’affaires de son activité CPU atteindra 20 milliards de dollars en 2026. Nvidia et Arm ont également lancé des produits CPU autonomes en 2026, marquant l’entrée officielle du géant du GPU sur le terrain des CPU.
ASIC et puces dédiées : l’émergence d’une troisième voie
Au-delà du binôme GPU-CPU, les ASIC (circuits intégrés spécifiques à une application) s’imposent comme la variable à la croissance la plus rapide sur le marché de l’inférence.
TD Cowen prévoit que la part de marché des accélérateurs commerciaux passera d’environ 91 % en 2025 à 75 % en 2030, tandis que les ASIC personnalisés grimperont de 9 % à 25 %. Les livraisons de serveurs ASIC devraient croître de 44,6 % en 2026, contre 16,1 % pour les serveurs GPU — soit un rythme trois fois supérieur pour les ASIC.
Les fournisseurs cloud hyperscale accélèrent le développement de puces d’inférence sur mesure. Google TPU, AWS Inferentia, Meta MTIA et le LPU (Language Processing Unit) de Groq sont tous des ASIC optimisés pour l’inférence. Le chiffre d’affaires IA de Broadcom a atteint 10,8 milliards de dollars au T2 2026, en hausse de 143 % sur un an, avec une prévision annuelle à 56 milliards, soit +180 %. Broadcom devrait capter environ 60 % du marché des puces IA personnalisées.
Cette tendance marque une transition du marché de l’inférence, passant de la « domination des GPU généralistes » à un paysage diversifié « GPU + CPU + ASIC ». Les GPU gèrent l’entraînement intensif et l’inférence à grande échelle, les CPU orchestrent les tâches et le contrôle système, et les ASIC offrent une efficacité énergétique extrême pour des charges d’inférence spécifiques.
Structure des coûts et redéfinition de l’économie de l’inférence
En définitive, le choix des puces pour l’inférence se résume à une question centrale : le coût par million de jetons.
Lors de l’entraînement, la précision du modèle et le temps d’apprentissage sont les principaux critères, et la tolérance au coût est plus élevée. L’inférence, en revanche, est une activité continue et à haute fréquence — chaque appel d’API et chaque requête utilisateur génèrent des coûts directs. Cela fait basculer la concurrence des puces de la « performance absolue » vers le « débit effectif par unité de coût ».
Les solutions GPU nécessitent un investissement matériel initial plus élevé. Par exemple, l’AMD MI300X se vend entre 10 000 et 15 000 dollars, tandis que la Nvidia H100 se situe entre 25 000 et 40 000 dollars. Pourtant, les GPU offrent un coût de calcul unitaire plus bas — les instances GPU à la demande chez les fournisseurs cloud génèrent des jetons à un coût par seconde inférieur de 40 à 60 % à celui des instances CPU. Les CPU sont avantageux pour les scénarios à tâche unique, faible concurrence et faible latence, car ils ne requièrent aucun investissement matériel supplémentaire.
Cependant, à mesure que l’inférence se développe, les solutions CPU voient leur coût marginal augmenter rapidement. Lorsque les requêtes simultanées augmentent, les CPU doivent planifier les tâches par rotation temporelle, avec une surcharge de changement de contexte qui croît exponentiellement. Ainsi, pour les déploiements d’inférence à grande échelle, l’investissement initial élevé dans les solutions GPU ou ASIC offre souvent un meilleur retour sur investissement à long terme, grâce à un débit supérieur et un coût unitaire plus faible.
Conclusion
La montée de la demande en inférence, passant d’un tiers à deux tiers du calcul IA, traduit une mutation fondamentale de la concurrence dans l’industrie des puces.
Pour Nvidia, son quasi-monopole sur le marché de l’entraînement (environ 90 % de part) ne devrait pas être remis en cause à court terme, mais la bataille pour les parts de marché additionnelles en inférence va s’intensifier. New Street Research propose la prévision la plus audacieuse : la part de Nvidia dans l’inférence pourrait chuter à 20–30 % d’ici 2028. Même la prévision plus prudente de Bloomberg Intelligence — qui estime que Nvidia conservera 70 à 75 % de part en 2030 — reconnaît que la croissance des livraisons d’ASIC dépasse largement celle des GPU.
Pour AMD et Intel, le regain de la demande CPU à l’ère de l’inférence représente une opportunité structurelle. La double stratégie d’AMD avec les CPU EPYC et les GPU Instinct, et les itérations continues des processeurs Xeon d’Intel avec la technologie 18A, visent toutes deux à capter cette fenêtre.
Pour les fournisseurs cloud et les développeurs d’applications IA, la diversification des choix de puces ouvre de nouvelles opportunités d’optimisation des coûts. Des GPU généralistes aux ASIC sur mesure, de l’inférence CPU à l’accélération GPU, le choix matériel dépendra de plus en plus des spécificités de chaque charge de travail — taille du modèle, exigences de latence, concurrence et budget.
La demande en calcul d’inférence IA croît plus vite que celle de l’entraînement. Ce basculement de l’entraînement vers l’inférence redessine toute la chaîne industrielle, de la conception des puces à l’architecture des centres de données. Les GPU ne perdront pas leur place, mais ils ne sont plus la seule réponse.
