Aller au contenu principal
MatérielIntermédiaire9 min de lecture

Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse

i
iaLocale Team
•
Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse

Vous avez déjà essayé de charger un modèle trop grand pour votre GPU : le programme vous dit qu'il n'y a pas assez de mémoire, et vous ne pouvez pas aller plus loin. Avec un GPU discret, le plafond est fixé : la VRAM disponible est là ou elle n'est pas là pas. La mémoire unifiée change la question. Le CPU et le GPU partagent un seul pool de RAM, le modèle peut donc utiliser presque toute la mémoire de la machine, pas un morceau isolé de quelques Go.

Le point, cependant, ne se limite pas au « combien ». Le vrai goulot d'étranglement d'une IA locale n'est pas la capacité mémoire : c'est le bande passante, c'est-à-dire la vitesse à laquelle la machine lit les poids du modèle. Et là, les chiffres sont plus décisifs qu'ils n'y paraissent : 256 Go/s, 614 Go/s ou 1,2 To/s ne sont pas trois spécifications techniques, ce sont trois expériences d'utilisation complètement différentes.

Dans cet article, nous prenons trois plateformes réelles — la Strix Halo d'AMD, les Mac avec M5 Max et les Mac avec M5 Ultra — et faisons les comptes : ce qui y tient, à quelle vitesse, à quel prix, et pour qui cela a du sens. Mais d'abord, deux concepts rapides.

Qu'est-ce que la mémoire unifiée, concrètement

Sur un PC avec GPU discret, il existe deux mémoires séparées : la RAM système pour le CPU et la VRAM pour le GPU, reliées par un bus PCIe. Si le modèle ne tient pas en VRAM, on réduit la quantisation ou on achète un GPU plus grand. Sur une plateforme à mémoire unifiée — Apple Silicon, Strix Halo, DGX Spark — il n'y a qu'un seul pool, et le GPU y lit directement. L'allocation se règle dans le BIOS ou le système d'exploitation : sur la Strix Halo, jusqu'à 96 Go sur les 128 Go au total peuvent être attribués au GPU.

Cela signifie qu'un modèle qui est un luxe sur un GPU dédié de 16 Go devient normal sur une machine avec 128 Go de mémoire unifiée. Le « combien y tient » cesse d'être une limite et devient un choix.

Pourquoi le bande passante décide de la vitesse

Quand vous générez du texte, le modèle est en phase de decode : il produit un jeton à la fois, et pour chaque jeton il relit les poids actifs depuis la mémoire. Le nombre de jetons par seconde dépend donc, en première approximation, du bande passante divisé par les octets que le modèle occupe. C'est de l'arithmétique simple, mais avec des conséquences fortes.

Un exemple concret. Un modèle de 27 Md de paramètres en Q4_K_M pèse environ 16,4 Go. Une Strix Halo à 256 Go/s en produit environ 11 à 13 par seconde : utilisable, mais pas rapide. Un M5 Max à 614 Go/s en fait 28 à 30. Un M5 Ultra à 1,2 To/s monte à 50-80. Même modèle, même quantisation : c'est seulement la mémoire qui fait la différence.

Le prefill — la phase où le modèle lit le prompt entier — fonctionne différemment : là, c'est surtout la puissance de calcul qui compte, et un chip avec un bande passante plus bas mais plus de cœurs peut traiter les prompts à grande vitesse. Le bande passante est ce qui limite la phase que vous ressentez le plus, c'est-à-dire l'apparition du texte.

Les trois plateformes : 256, 614 et 1.200 Go/s

PlateformeBande passanteMémoire unifiée
AMD Ryzen AI Max+ 395 (Strix Halo)256 Go/s128 Go
NVIDIA DGX Spark (GB10)273 Go/s128 Go
Apple M5 Max (Mac Studio)614 Go/sjusqu'à 128 Go
Apple M5 Ultra (Mac Studio)1,2 To/sjusqu'à 512 Go

La Strix Halo est la moins chère de la bande et la plus « grand public » : 256 Go/s, c'est environ le quart d'une RTX 4090, donc tout modèle qui tient dans la VRAM d'un GPU dédié tourne plus vite dessus. Mais elle gagne sur la capacité : c'est la seule de cette liste, hors du monde Apple, à faire tourner en local un MoE de 100 Md sans GPU dédié, sur un mini-PC qui tient sur une étagère.

Le DGX Spark se place au milieu : 273 Go/s comme la Strix Halo, mais avec CUDA complet et environ 1 petaFLOP en FP4. Pour qui développe, c'est l'option « mémoire unifiée sans renoncer à l'écosystème NVIDIA ».

Le bond d'Apple est le plus marqué de la génération : des 614 Go/s du M5 Max aux 1.200 Go/s du M5 Ultra, avec un bande passante doublé par rapport à la génération précédente (le M3 Ultra était à 800 Go/s). Le M5 Ultra est aussi le premier chip à quatre dies : deux M5 Max unis par UltraFusion, avec jusqu'à 36 cœurs CPU et 80 cœurs GPU.

128 Go vs 512 Go : ce qui y tient vraiment

Avec 128 Go de mémoire unifiée (et 96 Go allocables au GPU sur la Strix Halo), en Q4_K_M :

  • un 27 Md en haute quantisation, avec un contexte généreux — il y a de la place même en Q8 ;
  • un dense de 70 Md en Q4, avec un contexte modéré : les poids occupent environ 40 Go, le reste est pour la KV cache ;
  • un MoE de 100 Md en 4 bits, avec un contexte large : ici le MoE brille, car les paramètres totaux sont de 100 Md mais les actifs sont peu nombreux, et la vitesse dépend des actifs, pas du total.

Avec 512 Go sur le M5 Ultra, le discours change :

  • les MoE de classe frontière avec des dizaines ou des centaines de milliards de paramètres totaux en 4 ou 8 bits : des modèles qu'on ne tournait hier qu'en cloud ;
  • RAG sur de grands corpus : des dizaines de milliers de documents locaux, l'embedding store et le contexte entièrement en mémoire, aucun service externe ;
  • un 27 Md avec un contexte étendu (128K-262K jetons) : la KV cache seule peut peser des dizaines de Go, et à 512 Go ce n'est plus un problème.

La règle pratique : 128 Go si vos modèles tiennent sous 120 Md en 4 bits et si vous utilisez des contextes jusqu'à 128K. 512 Go si vous voulez les modèles les plus grands en local, si vous faites du RAG sur un corpus important, ou si le contexte long est votre cas d'usage principal.

Combien ça coûte, et pour qui cela a du sens

Prix du marché actuels : les mini-PC avec Strix Halo de 128 Go démarrent autour de 1.500-1.800 euros ; le Mac Studio avec M5 Max et 128 Go avoisine les 2.999 euros ; le Mac Studio avec M5 Ultra et 512 Go est à 6.699 euros ; le DGX Spark, après la révision de prix de février 2026, coûte environ 4.800 euros.

Mais la comparaison qui compte n'est pas le prix d'achat : c'est le coût par jeton. Le cloud vous demande un paiement pour chaque jeton que vous générez, pour toujours. Le matériel se paie une fois, et de là le coût par jeton est quasi nul (l'électricité). Une machine de 128 Go à 2.000 euros se rentabilise en quelques mois face à un abonnement API pour un usage intensif ; une machine de 512 Go à 6.700 euros n'a de sens que si elle remplace effectivement un usage cloud qui coûtait cher.

Pour qui cela a du sens, en résumé :

  • 128 Go, tranche 1.500-3.000 euros — ceux qui veulent une IA toujours disponible à la maison ou au bureau, pour le chat, le RAG sur leurs documents, des assistants agentiques. Modèle typique : 27 Md ou MoE de 100 Md.
  • 512 Go, tranche 6.500 euros — ceux qui travaillent avec des modèles de classe frontière en local, du RAG sur de grands corpus, ou des contextes très longs. C'est le choix de ceux qui savent exactement ce qu'ils vont y mettre.

Une mise en garde pratique : les configurations de 512 Go du Mac Studio M5 Ultra arrivent fin octobre 2026 ; les Mac M5 Max sont disponibles depuis fin septembre. Les mini-PC Strix Halo se trouvent déjà, dans plusieurs formats, des mini-PC desktop aux laptops.

Conclusion

La mémoire unifiée a déplacé la question du matériel vers le modèle. On ne demande plus « combien de VRAM me faut-il pour ce modèle ? » ; on demande « combien de milliards de paramètres puis-je me permettre sur ma machine ? ». La réponse dépend de deux chiffres : la capacité, qui décide de ce qui y tient ; le bande passante, qui décide de la vitesse.

256 Go/s, c'est une IA pour un usage quotidien tranquille. 614 Go/s, c'est une IA pour le travail. 1,2 To/s, c'est une IA de frontière. Et la différence entre 128 Go et 512 Go n'est pas un saut de gamme : c'est la différence entre faire tourner les modèles qui sortent cette année et ceux qui sortiront dans les deux prochaines.

Quand vous achetez du matériel pour l'IA locale, regardez d'abord combien de mémoire il vous faut pour vos modèles, puis quel bande passante rend l'expérience confortable, et enfin le coût total dans le temps — pas seulement celui d'achat, car le cloud n'est jamais gratuit, il est simplement facturé. La mémoire, vous la possédez. Le reste, vous le louez.

Références

Article généré par IA

#AMD#Apple Silicon#Hardware#IA locale#Memoria unificata
Partager :

Vous avez aimé cet article ?

Abonnez-vous à la newsletter pour recevoir de nouveaux tutoriels et guides.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.