Trois puces d’inférence en une semaine : Google TPU 8tx et 8i Max, AMD MI450X, Intel Crescent Island

Entre le 9 et le 12 novembre 2026, Google, AMD et Intel ont chacun mis sur la table de nouvelles puces d’inférence. Les trois annonces…

three-inference-approaches

Entre le 9 et le 12 novembre 2026, Google, AMD et Intel ont chacun mis sur la table de nouvelles puces d’inférence. Les trois annonces semblent d’abord sans rapport : un TPU de calcul confidentiel et un TPU à double puce chez Google, une variante à mémoire réduite du GPU phare d’AMD en baie, et un GPU d’inférence Intel que les cartes partenaires peuvent équiper de jusqu’à 480 Go de DRAM basse consommation. Lues côte à côte, elles racontent la même histoire. En inférence, la capacité mémoire et le cache de clés-valeurs (KV) façonnent désormais la conception des puces autant que la puissance de calcul brute. Pour le contexte de marché, voir notre tour d’horizon du marché des accélérateurs IA.


Pourquoi l’inférence impose de repenser la mémoire

L’entraînement est un problème de débit : occuper des milliers de puces sur un seul travail titanesque pendant des semaines. Le service est autre chose. Chaque requête emporte son propre contexte, et les modèles de raisonnement comme les agents d’IA en emportent beaucoup : documents longs, bases de code, conversations à plusieurs tours.

Pour éviter de recalculer tout le contexte à chaque nouveau jeton, les moteurs d’inférence stockent des résultats d’attention intermédiaires, les « clés » et les « valeurs », pour chaque jeton déjà traité. C’est le cache KV. Il croît avec la longueur du contexte et avec le nombre d’utilisateurs simultanés, et il doit séjourner quelque part de rapide. Lorsqu’il ne tient plus, le système en évince une partie et la recalcule plus tard, ce qui coûte du temps, ou la bascule vers un étage de mémoire plus vaste et plus lent, ce qui coûte de la latence.

Les fabricants le disent désormais sans détour. Google décrit son TPU le plus récent comme « conçu pour un autre problème : le mur de la mémoire » [1]. AMD présente son nouveau GPU comme un moyen, pour les clients, « d’aligner la capacité mémoire sur leurs charges d’IA » [3]. Intel, selon le Seoul Economic Daily, a explicitement axé sa stratégie de puce autonome sur la quantité de DRAM dont les différents services ont besoin pour leur cache KV [10]. Trois fournisseurs, une même contrainte.

Google : deux nouveaux systèmes TPU, bâtis autour de puces existantes

Le 9 novembre 2026, Amin Vahdat, senior vice-president et chief technologist pour l’IA et l’infrastructure chez Google, a présenté deux ajouts à la famille TPU de huitième génération : le TPU 8tx et le TPU 8i Max [1]. Ils rejoignent le TPU 8t (entraînement) et le TPU 8i (raisonnement et service), dévoilés par Google à Cloud Next en avril. Google indique qu’il s’agit de « la première fois que nous présentons quatre systèmes TPU en une seule année » [1].

Le mot qui compte est système. Google distingue une nouvelle puce, effort de plusieurs années, d’un nouveau système bâti autour d’une puce existante en en changeant le boîtier, la mémoire, le réseau et la sécurité. Les deux produits relèvent de la seconde catégorie [1].

TPU 8i Max : deux puces de raisonnement, un seul boîtier

La référence est le TPU 8i. Dans son examen d’architecture d’avril, Google indiquait pour le TPU 8i 288 Go de capacité HBM, 384 Mo de SRAM sur puce, 8 601 Go/s de bande passante HBM et 10,1 pétaflops FP4 de crête par puce [2]. Google écrivait aussi que le triplement de la SRAM sur puce par rapport à la génération précédente permet au TPU 8i d’« héberger un cache KV plus vaste entièrement sur silicium », réduisant le temps d’inactivité des cœurs pendant le décodage à long contexte [2]. Autrement dit, le cache KV était déjà une cible de conception pour la puce de base.

Le TPU 8i Max place deux puces TPU 8i dans un seul boîtier. Selon Google, il offre « le double de calcul, le double de SRAM et le double de bande passante HBM du TPU 8i », et loge deux fois plus de silicium dans l’emprise de baie existante [1]. Google le positionne pour « les fenêtres de contexte massives et la plus haute densité de calcul par baie », citant des scénarios où des dizaines d’agents travaillent sur une base de code entière ou des heures de vidéo [1].

Deux précautions s’imposent. Premièrement, l’annonce de Google n’indique pas de chiffre de capacité HBM pour le TPU 8i Max. TechCrunch a décrit le produit comme « doublant la capacité mémoire » [8], et deux puces TPU 8i porteraient logiquement le double de HBM d’une seule, mais ce chiffre de capacité ne figure pas dans le billet de Google : nous ne le reproduisons donc pas ici. Deuxièmement, TechTarget a fait état de 768 Mo de SRAM sur puce et de 17,2 To/s de bande passante HBM pour la conception à double puce [9]. Ces nombres correspondent à un simple doublement des chiffres TPU 8i publiés par Google, mais ils proviennent de la couverture de presse, non de l’annonce elle-même.

Google a assorti le matériel d’une couche logicielle. Le même billet présente TPU Sync, une « couche d’état de modèle » en source ouverte qui traite la HBM de la puce, la DRAM de l’hôte, le stockage partagé et le réseau du centre de données comme une seule hiérarchie mémoire. Google affirme qu’elle bascule automatiquement les grands caches KV hors de la puce et fait transiter le contexte entre nœuds de prefill et de décodage désagrégés, réduisant de plus de 90 % la latence de transfert du cache KV et le délai avant le premier jeton [1]. Ce chiffre est une affirmation de Google.

Illustration conceptuelle d’un flux de petits cubes translucides allant d’une puce processeur vers des étages de mémoire empilés de taille croissante

TPU 8tx : l’inférence confidentielle avec un hôte AMD

Le TPU 8tx vise un autre acheteur : les entreprises réglementées et les administrations qui veulent exécuter des modèles de pointe ou propriétaires sur des données sensibles. Google indique qu’il est « bâti sur le même silicium que le TPU 8t et associé à des hôtes CPU AMD EPYC de 5e génération », et qu’il intègre la sécurité dans la couche matérielle afin que les données et les poids du modèle restent « protégés et isolés même pendant l’utilisation active » [1]. Il reprend aussi le réseau Boardfly à faible latence du TPU 8i, dont Google dit qu’il offre « jusqu’à deux fois moins de latence que le TPU 8t, avec une pénalité de performance quasi nulle » [1].

Le détail AMD est notable. En avril, Google décrivait des hôtes CPU Axion fondés sur Arm pour l’ensemble des systèmes TPU de huitième génération [2]. Pour la variante confidentielle, le billet officiel nomme à la place des hôtes AMD EPYC [1]. TechCrunch est allé plus loin et a décrit le TPU 8tx comme « conçu avec AMD » [8]. Le billet de Google n’emploie pas le langage de la conception conjointe : la lecture prudente est donc celle de la source officielle, à savoir que le TPU 8tx utilise le silicium du TPU 8t avec des CPU hôtes AMD EPYC.

Google indique que les équipes peuvent aussi affiner les modèles, les distiller et mener de l’apprentissage par renforcement sur le même système que celui qui sert le modèle [1]. Google n’a pas publié de dates de disponibilité ni de tarifs pour l’un ou l’autre des nouveaux systèmes, selon TechTarget [9].

Illustration d’une puce accélératrice abstraite dans un tiroir de serveur, recouverte d’un dôme protecteur translucide, avec des flux de données en pointillés qui la traversent et une forme de cadenas dessinée dans les pistes du circuit

AMD : même calcul, un choix de capacité mémoire

La mise à jour d’AMD est arrivée le 12 novembre 2026, par un communiqué couvrant trois produits de la série Instinct MI400 [3].

MI450X : une option à mémoire réduite pour Helios

Le nouveau produit est l’Instinct MI450X. AMD indique qu’il offre 288 Go de HBM4 par GPU « tout en livrant les mêmes capacités de calcul de cœur, de bande passante mémoire et de connectivité scale-up et scale-out que le MI455X » [3]. Les clients qui déploient le système Helios d’AMD à l’échelle de la baie peuvent choisir l’un ou l’autre GPU sur la même architecture de baie et la même pile logicielle ROCm [3].

Pour comparaison, la page produit du MI455X d’AMD indique 432 Go de HBM4 répartis sur 12 piles, 23,3 To/s de bande passante mémoire de crête et 40,3 pétaflops MXFP4 de crête, dans un module à refroidissement liquide direct conçu pour Helios [4]. Le MI450X conserve donc ce profil de calcul et de bande passante, mais abandonne un tiers de la capacité mémoire.

Le cadrage d’AMD lui-même est un énoncé limpide du compromis lié au cache KV. Pour « les charges qui tiennent dans sa capacité mémoire », le MI450X est présenté comme un moyen d’atteindre les objectifs de débit et de temps de réponse tout en optimisant les dépenses d’exploitation. Le MI455X « offre une marge mémoire supplémentaire pour les modèles plus grands, les contextes plus longs ou une concurrence plus élevée » [3]. Les contextes plus longs et la concurrence plus élevée sont précisément les deux variables qui font enfler le cache KV.

L’affirmation de performance du MI455X, et la façon de la lire

Le même communiqué porte le chiffre d’inférence mis en avant par AMD. AMD affirme que le MI455X sur Helios a délivré 21 333 jetons par seconde et par GPU sur DeepSeek-R1, « soit jusqu’à 30 % de débit en plus que le dernier résultat MLPerf hors ligne publié pour le Nvidia Vera Rubin » [3]. Ce sont des affirmations d’AMD, fondées sur les tests d’AMD.

La note de bas de page compte. Selon AMD, le résultat provient de tests menés par les AMD Performance Labs en octobre 2026 sur « une configuration MLPerf Inference Offline testée par AMD ». Il est comparé au résultat publié de MLPerf Inference v6.1, division Closed, pour le Nvidia Vera Rubin NVL72 (entrée 6.1-0106), récupéré auprès de MLCommons le 11 novembre 2026 [3]. En d’autres termes, le chiffre d’AMD est une mesure interne confrontée à une soumission publiée d’un concurrent, et non deux résultats issus de la même campagne officielle MLPerf. Il convient de le traiter comme une comparaison avancée par le fabricant.

AMD affirme également que Helios offre « jusqu’à 20 % de bande passante HBM en plus » et une bande passante scale-up supérieure à celle de Vera Rubin, là encore d’après des calculs d’AMD à partir de spécifications publiées [3]. Sur sa page produit MI455X, AMD indique 288 Go et 22,0 To/s pour Vera Rubin, à titre de comparaison [4]. Ces chiffres concernant le concurrent sont ceux qu’AMD présente.

MI430X : de la mémoire pour la science

AMD a aussi détaillé l’Instinct MI430X pour le calcul haute performance et l’IA scientifique : 432 Go de HBM4, jusqu’à 23,3 To/s de bande passante mémoire et jusqu’à 288 TFLOPS de FP64 natif de crête [5]. Ce n’est pas une puce d’inférence, mais l’argument d’AMD repose sur la même logique : davantage de mémoire par GPU, c’est moins de GPU et moins de nœuds pour un même problème [5].

Intel : une puce, une DRAM modulable

La contribution d’Intel est venue de Séoul. Lors de l’Intel AI Summit Seoul 2026, le 12 novembre, Anil Nanduri, qui dirige les produits d’IA et la mise sur le marché au sein du Data Center Group d’Intel, a exposé les projets pour Crescent Island, le GPU d’inférence désormais commercialisé sous le nom Intel GPU D-series. L’événement a été relaté par le Seoul Economic Daily le 13 novembre [10].

Ce qu’Intel a officiellement publié

Intel a d’abord annoncé Crescent Island en octobre 2025, décrivant un GPU de centre de données optimisé pour l’inférence, fondé sur l’architecture Xe3P, doté de 160 Go de LPDDR5X et conçu pour les serveurs d’entreprise à refroidissement par air [7]. En octobre 2026, lors de l’OCP Global Summit, le newsroom d’Intel a donné des spécifications plus complètes. Le GPU D-series combine jusqu’à 480 Go de LPDDR5X, 1,5 To/s de bande passante mémoire et 1,3 pétaflops de calcul FP8 dans une enveloppe de 350 watts, au format PCIe standard à refroidissement par air [6]. Une note précise la plage mémoire : la carte PCIe de marque Intel elle-même emporte 160 Go de LPDDR5X, et la conception permet aux partenaires de construire leurs propres cartes de marque avec des options allant jusqu’à 480 Go [6]. Intel indique aussi que le GPU prend en charge des modèles allant jusqu’à 300 milliards de paramètres sur une seule carte et plus de 1 000 milliards de paramètres dans un système à huit GPU, et que l’échantillonnage clients était en cours [6].

Ce qu’il y avait de nouveau à Séoul

Deux points du sommet de Séoul n’apparaissent que dans la couverture de presse : nous les attribuons. Selon le Seoul Economic Daily, Intel vendra Crescent Island comme une puce autonome, afin que les fabricants de serveurs puissent concevoir leurs propres cartes et dimensionner la DRAM selon leurs charges, de 160 Go sur la conception Intel jusqu’à 480 Go sur les cartes clients [10]. Le journal cite aussi Nanduri indiquant qu’Intel a exécuté des charges d’inférence dans ses laboratoires quelques semaines après réception des échantillons physiques, et que « nous expédions actuellement des échantillons d’évaluation aux clients » [10].

Le Seoul Economic Daily a également rapporté le raisonnement derrière la stratégie, et c’est un argument de cache KV. Lorsqu’un service d’IA traite de longs documents ou des conversations suivies, il stocke l’information déjà traitée en DRAM pour la réutiliser. Si la mémoire vient à manquer et qu’une partie de ce cache est écartée, le travail doit être recalculé, ce qui ralentit les réponses. C’est pourquoi, écrit le journal, les besoins en DRAM varient d’un service à l’autre, même sur un GPU identique [10].

Le choix mémoire est un pari. La LPDDR5X offre beaucoup moins de bande passante que la HBM : les 1,5 To/s d’Intel [6] se comparent aux 23,3 To/s du MI455X d’AMD [4]. Intel parie que, pour de nombreuses tâches d’inférence en entreprise, la capacité et le coût pèsent davantage que la bande passante de crête. Le Seoul Economic Daily ajoutait qu’un usage plus large de la LPDDR5X dans les serveurs d’IA pourrait ouvrir des débouchés d’approvisionnement à Samsung et SK hynix [10] ; pour le volet HBM de ce marché de la mémoire, voir notre analyse de la course à l’approvisionnement en HBM4.

Trois réponses à une même question

Mises côte à côte, les annonces alignent les choix de conception sur un seul axe : quelle quantité de mémoire attacher à chaque unité de calcul, et à quel coût.

  • Google fait croître la mémoire avec le calcul. Le TPU 8i Max double calcul, SRAM et bande passante HBM de concert en associant deux puces dans un même boîtier [1]. Il ajoute ensuite une couche logicielle, TPU Sync, pour basculer les caches KV entre HBM, DRAM hôte et stockage [1].
  • AMD maintient le calcul fixe et fait varier la mémoire. Le MI450X et le MI455X partagent calcul de cœur, bande passante et connectivité, mais diffèrent par la capacité HBM4, 288 Go contre 432 Go [3][4]. Les clients choisissent la capacité qu’exigent leurs modèles et leur concurrence.
  • Intel troque la bande passante contre la capacité. Il utilise de la LPDDR5X plutôt que de la HBM, atteint jusqu’à 480 Go par carte sur les conceptions partenaires [6] et, selon le Seoul Economic Daily, laisse aux fabricants de cartes le soin de choisir la quantité [10].

Google seul a tiré cette semaine un fil de sécurité : le TPU 8tx fait du calcul confidentiel un produit d’inférence dédié [1].

Aucune de ces approches n’est universellement supérieure. Ce que la semaine confirme, c’est que le marché de l’inférence se fragmente selon le profil mémoire, comme le marché de l’entraînement l’avait fait plus tôt selon l’interconnexion et l’échelle de baie (voir notre guide de l’entraînement multi-trillions de paramètres).

Ce qu’il faudra surveiller

  1. Disponibilité et tarifs. Google n’a donné ni dates ni prix pour les TPU 8tx et 8i Max [9]. AMD n’a pas publié de tarif pour le MI450X [3]. Intel n’a indiqué, dans les sources examinées ici, aucune date de disponibilité générale pour le GPU D-series [6][10].
  2. Des mesures à périmètre comparable. L’affirmation d’AMD d’un avantage de 30 % face au Vera Rubin repose sur une configuration exécutée par AMD [3]. Une soumission MLPerf officielle pour le MI455X permettrait une comparaison directe.
  3. Les chiffres mémoire officiels du TPU 8i Max. Google n’a pas encore publié de capacité HBM par boîtier [1].
  4. Le modèle de puce autonome d’Intel dans les faits. Il faudra surveiller l’apparition de cartes partenaires à 480 Go et un matériau primaire d’Intel confirmant le modèle de vente en puce autonome rapporté depuis Séoul [6][10].

La leçon commune est simple. En inférence, la puce qui l’emporte est de plus en plus celle dont la mémoire épouse la charge, et non seulement celle qui offre le plus de calcul.


À lire aussi

Références / sources

Sources primaires / officielles
1. Google, Amin Vahdat, « Our newest TPUs: 8tx and 8i Max, built for the agentic era » (9 nov. 2026) : https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/
2. Google Cloud Blog, Diwakar Gupta and Sabastian Mugazambi, « Inside the eighth-generation TPU: An architecture deep dive » (22 avr. 2026) : https://cloud.google.com/blog/products/compute/tpu-8t-and-tpu-8i-technical-deep-dive
3. AMD Newsroom, « AMD Advances the Instinct MI400 Series for AI and Scientific Computing » (12 nov. 2026), y compris les notes MI400-031a, MI400-004a et MI400-013 : https://newsroom.amd.com/news/amd-advances-instinct-mi400-series-ai-scientific-computing/
4. AMD, « AMD Instinct MI455X GPUs », page de spécifications produit (consultée le 16 nov. 2026) : https://www.amd.com/en/products/accelerators/instinct/mi400/mi455x.html
5. AMD Blog, « Exascale Was the Beginning: AMD Instinct MI430X GPUs » (12 nov. 2026) : https://www.amd.com/en/blogs/2026/exascale-was-the-beginning-amd-instinct–mi430x-gpus.html
6. Intel Newsroom, « Intel Accelerates Open Infrastructure for the Agentic AI Era » (OCP Global Summit, oct. 2026) : https://www.intel.com/content/www/us/en/newsroom/news/artificial-intelligence/intel-accelerates-open-infrastructure-agentic-ai-era.html
7. Intel Newsroom, « Intel to Expand AI Accelerator Portfolio with New GPU » (14 oct. 2025) : https://www.intel.com/content/www/us/en/newsroom/news/artificial-intelligence/intel-to-expand-ai-accelerator-portfolio-with-new-gpu.html

Sources secondaires / presse (explicitement attribuées)
8. TechCrunch, Ram Iyer, « Google broadens its AI hardware portfolio with two new specialized chips » (10 nov. 2026) : https://techcrunch.com/2026/11/10/google-broadens-its-ai-hardware-portfolio-with-two-new-specialized-chips/
9. TechTarget, Joab Jackson, « Google specializes TPUs for agentic, confidential computing » (9 nov. 2026) : https://www.techtarget.com/news/google-specializes-tpus-for-agentic-confidential-computing/874084/
10. Seoul Economic Daily, Lee Seok-jin, « Intel to Sell AI Inference GPU as Standalone Chip, Tripling DRAM Capacity » (13 nov. 2026) : https://en.sedaily.com/business/2026/11/13/intel-to-sell-ai-inference-gpu-as-standalone-chip-tripling

Partager cet article

Images : illustrations originales créées pour AndBeyond.Tech ; aucun logo ni aucune personne réelle n’y figurent.