Aller au contenu principal

Blog

Articles, guides et analyses sur l'intelligence artificielle locale

9 articles trouvés per "hardware"

Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
ModèlesIntermédiaire

Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM

Ling 3.1 Flash d'inclusionAI : MoE hybride 560B totaux / 25B actifs, contexte natif 1M tokens, checkpoint FP8, licence MIT. Concrètement, pour 24 Go de VRAM : quantifications, parallélisme et coûts API.

iaLocale Team
19 octobre 2026
Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
ModèlesIntermédiaire

Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local

Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.

iaLocale Team
18 octobre 2026
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
MatérielIntermédiaire

Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau

Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.

iaLocale Team
16 octobre 2026
Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse
MatérielIntermédiaire

Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse

128 ou 512 Go de mémoire partagée entre CPU et GPU : trois plateformes réelles, le bande passante qui décide de la vitesse, et les comptes sur ce qui y tient et pour qui cela a du sens.

iaLocale Team
10 octobre 2026
Quand un grand modèle ne sert à rien : choisir par la taille
ModèlesIntermédiaire

Quand un grand modèle ne sert à rien : choisir par la taille

La méthode pour choisir la taille du modèle selon le matériel : les trois limites (mémoire, vitesse, latence perçue), le tableau VRAM pour la quantification Q4, les classes par matériel et les cas où le petit modèle gagne.

iaLocale Team
27 septembre 2026
GPU ou CPU : quand la CPU suffit
MatérielIntermédiaire

GPU ou CPU : quand la CPU suffit

Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.

iaLocale Team
21 septembre 2026
Matériel pour l'IA locale : ce qu'il faut en 2026
MatérielIntermédiaire

Matériel pour l'IA locale : ce qu'il faut en 2026

La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.

iaLocale Team
10 juin 2026
Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle
GuidesIntermédiaire

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle

Découvrez comment installer et utiliser de grands modèles de langage sur votre ordinateur, sans dépendre de services cloud.

iaLocale Team
10 juin 2026
IA locale sur Raspberry Pi
MatérielIntermédiaire

IA locale sur Raspberry Pi

De la première installation au modèle qui répond sur un Pi 5 : prix réels 2026, formule tok/s = bande ÷ fichier, compte d'électricité et astuces qui comptent.

iaLocale Team
10 juin 2026