Blog
Articles, guides et analyses sur l'intelligence artificielle locale
10 articles trouvés per "hardware"

Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF
Ce qui tient réellement dans le Mac Studio M5 Ultra 512 Go : la règle des 4 bit pour les MoE (actifs vs totaux), trois voies d’installation GGUF (Ollama, LM Studio, llama.cpp), pourquoi le cache KV est le vrai goulot d’étranglement et quand les 9 999 USD se récupèrent face aux API.

Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
Ling 3.1 Flash d'inclusionAI : MoE hybride 560B totaux / 25B actifs, contexte natif 1M tokens, checkpoint FP8, licence MIT. Concrètement, pour 24 Go de VRAM : quantifications, parallélisme et coûts API.

Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.

Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.

Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse
128 ou 512 Go de mémoire partagée entre CPU et GPU : trois plateformes réelles, le bande passante qui décide de la vitesse, et les comptes sur ce qui y tient et pour qui cela a du sens.

Quand un grand modèle ne sert à rien : choisir par la taille
La méthode pour choisir la taille du modèle selon le matériel : les trois limites (mémoire, vitesse, latence perçue), le tableau VRAM pour la quantification Q4, les classes par matériel et les cas où le petit modèle gagne.

GPU ou CPU : quand la CPU suffit
Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.

Matériel pour l'IA locale : ce qu'il faut en 2026
La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle
Découvrez comment installer et utiliser de grands modèles de langage sur votre ordinateur, sans dépendre de services cloud.

IA locale sur Raspberry Pi
De la première installation au modèle qui répond sur un Pi 5 : prix réels 2026, formule tok/s = bande ÷ fichier, compte d'électricité et astuces qui comptent.

