Aller au contenu principal

Blog

Articles, guides et analyses sur l'intelligence artificielle locale

Parcours de lecture

68 articles

Qwen3.8-2.4T-A95B : les comptes pour faire tourner 2,4 billions de paramètres open-weight, 95B actifs
ModèlesAvancé

Qwen3.8-2.4T-A95B : les comptes pour faire tourner 2,4 billions de paramètres open-weight, 95B actifs

Le premier modèle de la classe Qwen-Max en open-weight (2,4T de paramètres, 95B actifs) dépasse tout nœud grand public : calculs sur poids, matériel multi-nœud, amortissement sur 36 mois et coûts d'électricité, et quand ça a du sens en local.

iaLocale Team
22 novembre 2026
Turnbook : la mémoire locale des agents de coding, sans appel au modèle
Cas d’usageIntermédiaire

Turnbook : la mémoire locale des agents de coding, sans appel au modèle

Chaque conversation enregistrée mot pour mot dans un fichier SQLite, sans appel au modèle : recherche par embeddings locaux, 3,1k tokens par réponse. 91,8 % sur LongMemEval, zéro token pour enregistrer.

iaLocale Team
20 novembre 2026
Ripple-65B : un dense de 64,8B sous Apache-2.0, les comptes pour le faire tourner en local
ModèlesIntermédiaire

Ripple-65B : un dense de 64,8B sous Apache-2.0, les comptes pour le faire tourner en local

64,8 milliards de paramètres, Apache 2.0, 1M de contexte et un checkpoint NVFP4 pensé pour 128 Go de mémoire unifiée : les comptes et les critères pour faire tourner un dense frontier en local.

iaLocale Team
19 novembre 2026
QRAE : compresser le contexte des agents DeepSearch pour économiser token et latence
ModèlesIntermédiaire

QRAE : compresser le contexte des agents DeepSearch pour économiser token et latence

QRAE utilise l'entropie d'attention du modèle pour décider quels fragments récupérés restent dans le contexte : token -45 %, latence -30 % et succès en hausse sur quatre benchmarks.

iaLocale Team
18 novembre 2026
Ollama voice : la synthèse vocale locale, de la ligne de commande à l'API OpenAI
Cas d’usageDébutant

Ollama voice : la synthèse vocale locale, de la ligne de commande à l'API OpenAI

Phonon apporte la synthèse vocale dans le serveur Ollama : une commande pour parler, un endpoint OpenAI-compatible et la lecture en streaming de la réponse, 35 % plus rapide que le runtime de référence sur M5 Max.

iaLocale Team
17 novembre 2026
Mistral Large 4 en open-weight : un MoE de 1T (52B actifs) pour l'inférence on-premise
ModèlesIntermédiaire

Mistral Large 4 en open-weight : un MoE de 1T (52B actifs) pour l'inférence on-premise

Mistral a publié Large 4 en open-weight (1,03T au total, 52B actifs, 1M de contexte, licenza open-weight) : un article qui apprend à lire les spécifications MoE et à faire les calculs de RAM, de quantification et de vitesse pour l'inférence on-premise.

iaLocale Team
14 novembre 2026
Agents d'entreprise avec des modèles open-weight : le rapport Gartner sur les coûts, les calculs et la règle des 90 %
ComparaisonsIntermédiaire

Agents d'entreprise avec des modèles open-weight : le rapport Gartner sur les coûts, les calculs et la règle des 90 %

Le rapport Gartner (novembre 2026): 90% des étapes agentiques d'un agent d'entreprise sur modèles open-weight, au coût d'un cinquième du frontier. Les trois chiffres clés, les prérequis et quand cela vaut vraiment la peine.

iaLocale Team
12 novembre 2026
SynthAPI : environnements synthétiques et scaling laws pour entraîner des agents tool-use
Cas d’usageAvancé

SynthAPI : environnements synthétiques et scaling laws pour entraîner des agents tool-use

Environnements synthétiques aux échecs réglables pour entraîner des agents tool-use en local : les scaling laws de SynthAPI et le calcul — ~1,60 € d'énergie contre ~158 € d'API pour 10 000 tâches.

iaLocale Team
11 novembre 2026
Cosmos3-H-Dreams de NVIDIA : la simulation chirurgicale en temps réel, et la robotique en local
Cas d’usageAvancé

Cosmos3-H-Dreams de NVIDIA : la simulation chirurgicale en temps réel, et la robotique en local

Un world model de 15B qui génère en temps réel la vidéo d'une intervention robotisée sur une seule GPU : ce que ça change pour la robotique en local.

iaLocale Team
10 novembre 2026
Cosmos3-Nano-Sim-Auto : le world model de NVIDIA, 16B, qui simule la conduite en temps réel en local
Cas d’usageIntermédiaire

Cosmos3-Nano-Sim-Auto : le world model de NVIDIA, 16B, qui simule la conduite en temps réel en local

Un world model de 16B qui génère jusqu'à 11 caméras et un nuage LiDAR synchronisés : ce qu'il produit, comment il ferme la boucle, et ce que « en local » veut vraiment dire.

iaLocale Team
9 novembre 2026
Yzma : des embeddings jusqu'à 2,6 fois plus rapides qu'Ollama, le comparatif
ComparaisonsIntermédiaire

Yzma : des embeddings jusqu'à 2,6 fois plus rapides qu'Ollama, le comparatif

Yzma appelle llama.cpp dans le même processus : pas de serveur, pas de round trip. C'est 2,6x plus rapide qu'Ollama sur les embeddings — avec les chiffres et le setup.

iaLocale Team
7 novembre 2026
Secret Guard et les gateways LLM locaux : protéger les secrets quand l'agent les utilise
Cas d’usageIntermédiaire

Secret Guard et les gateways LLM locaux : protéger les secrets quand l'agent les utilise

Secret Guard est un gateway en Rust, open source, qui intercepte les requêtes de votre agent et remplace les secrets par des mock avant qu'ils n'atteignent le provider : le modèle ne les voit jamais, et la valeur réelle revient à l'agent.

iaLocale Team
6 novembre 2026
Agents sur téléphone : ce que les mobile agents ouverts apportent vraiment (après OpenMobile-2)
Cas d’usageIntermédiaire

Agents sur téléphone : ce que les mobile agents ouverts apportent vraiment (après OpenMobile-2)

OpenMobile-2 ouvre les environnements et recettes de training des agents mobiles, et LFM3-1.7B montre qu'un agent de 1,7 GB tourne déjà sur téléphone : chiffres, exigences minimales et limites honnêtes.

iaLocale Team
5 novembre 2026
ML Drift : le moteur GPU on-device open source de Google, et quand il bat les généralistes
ComparaisonsIntermédiaire

ML Drift : le moteur GPU on-device open source de Google, et quand il bat les généralistes

Le moteur qui fait tourner les modèles dans Chrome et YouTube est désormais open source : architecture, chiffres de benchmark et comparaison honnête avec Ollama et llama.cpp.

iaLocale Team
3 novembre 2026
Nemotron 3.5 Bolt : le MoE de 74B de NVIDIA avec ~9B actifs, ce que ça change sur votre desktop
ModèlesIntermédiaire

Nemotron 3.5 Bolt : le MoE de 74B de NVIDIA avec ~9B actifs, ce que ça change sur votre desktop

74B de paramètres, 9B actifs : le MoE de NVIDIA pour les agents en local tient dans 24 Go de VRAM avec la quantisation IQ2. VRAM réelle, chiffres déclarés et limites franches.

iaLocale Team
2 novembre 2026
Text-to-SQL en local : interroger la base de données de l'entreprise sans envoyer les données dans le cloud
Cas d’usageIntermédiaire

Text-to-SQL en local : interroger la base de données de l'entreprise sans envoyer les données dans le cloud

Un modèle en local, le schéma au modèle, l'exécution sur votre base : le text-to-SQL en interne, les chiffres du benchmark ARCS et là où ça casse vraiment.

iaLocale Team
1 novembre 2026
MOSS-Image : le ripack ComfyUI d'OpenMOSS-Team, workflows et exigences réelles
Cas d’usageIntermédiaire

MOSS-Image : le ripack ComfyUI d'OpenMOSS-Team, workflows et exigences réelles

MOSS-Image : le ripack ComfyUI d'OpenMOSS-Team, prêt en deux dossiers. VRAM réelle calculée par combinaison de poids, de ~11GB à ~31GB, et les quatre workflows inclus.

iaLocale Team
31 octobre 2026
Cosmos 3 Edge : la policy DROID pour la robotique qui tourne sur l'edge
ComparaisonsIntermédiaire

Cosmos 3 Edge : la policy DROID pour la robotique qui tourne sur l'edge

Cosmos3-Edge-Policy-DROID : la policy robotique de 4B de NVIDIA. Combien de matériel pour la faire tourner en temps réel sur Jetson, et où elle s'arrête.

iaLocale Team
30 octobre 2026
Frontier vs IA locale : la comparaison honnête que personne ne fait
ComparaisonsIntermédiaire

Frontier vs IA locale : la comparaison honnête que personne ne fait

Les modèles frontier sont encore plus puissants sur les cas complexes, mais le coût est la dernière chose qui décide : tableau, point de pareggio et la réponse honnête à « anticiper l'investissement et ensuite rouler gratuitement ? ».

iaLocale Team
27 octobre 2026
D'où apprennent les modèles locaux : les poids ouverts expliqués sans fumage
Les basesDébutant

D'où apprennent les modèles locaux : les poids ouverts expliqués sans fumage

Le modèle ne se raccroche pas à internet pour ses capacités : il les a absorbées une fois au pré-entraînement et il les exécute sur votre matériel. Poids ouverts ne veut pas dire données ouvertes, et les modèles viennent de beaucoup de labs.

iaLocale Team
27 octobre 2026
Images en local : ComfyUI 0.40 et comfy_attention, pour tous les modèles
Cas d’usageIntermédiaire

Images en local : ComfyUI 0.40 et comfy_attention, pour tous les modèles

ComfyUI 0.40 étend comfy_attention à tous les modèles avec des noyaux sélectionnables par modèle et via LoRA, active par défaut le système d'assets avec API locale et standardise la sortie 3D ; le tableau VRAM reste la référence du choix.

iaLocale Team
27 octobre 2026
Des agents ML en local : MLExpert et EpochGo sur Ollama, coût d'API nul
Cas d’usageIntermédiaire

Des agents ML en local : MLExpert et EpochGo sur Ollama, coût d'API nul

MLExpert pousse la barre à 35B et 72,7 % de médailles ; EpochGo fait tourner trois agents AutoML sur 16 Go, sans API : ce qui marche aujourd'hui, les comptes et les limites.

iaLocale Team
26 octobre 2026
Intel et AMD collaborent sur PyTorch/oneDNN: ce que ça change pour l'IA locale sur CPU
MatérielIntermédiaire

Intel et AMD collaborent sur PyTorch/oneDNN: ce que ça change pour l'IA locale sur CPU

AMD fusionne ZenDNN dans oneDNN, Intel intègre ses extensions ACE : une seule pile open source pour l'accélération x86 dans PyTorch, déjà par défaut. Ce que ça change si vous faites tourner des modèles en local sur CPU.

iaLocale Team
25 octobre 2026
Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local
ModèlesDébutant

Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local

Nemotron Parse est la famille de modèles vision-encodeur-décodeur de NVIDIA qui lit les PDF en local : markdown formaté, formules LaTeX, coordonnées et classe sémantique de chaque élément, dans l'ordre de lecture. v1.1 (nov. 2025), v1.2 (févr. 2026) et 2.0 (juin 2026), toutes sous le milliard de paramètres et rééditées le 20 octobre ; la 2.0 atteint 0.72 d'ANLS sur les écritures indiennes. En local avec vLLM de v0.20 à v0.26 : les documents restent sur votre matériel.

iaLocale Team
24 octobre 2026
MagpieTTS 357M : la synthèse vocale en 12 langues, même sur un laptop
Cas d’usageDébutant

MagpieTTS 357M : la synthèse vocale en 12 langues, même sur un laptop

NVIDIA publie MagpieTTS Multilingual, 364M de paramètres et 12 langues dans un seul modèle : synthèse vocale locale avec un fichier GGUF de 332 Mo, sans GPU. Le runtime C++ NeMo-Speech.cpp mène du zéro au premier audio en trois commandes ; les cinq voix sont les mêmes dans toutes les langues, et pour une voix française native Piper reste devant.

iaLocale Team
22 octobre 2026
MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM
ModèlesIntermédiaire

MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM

MiniCPM-V 4.7 (35B totaux, ~3B actifs, sorti le 12 octobre 2026 par OpenBMB et ModelBest) est le premier MoE open de la série, visuel-linguistique : images multiples, vidéo, OCR. 13+ tok/s avec 3 Go de RAM sur iPhone 17 Pro Max, 17+ sur Android. Quantisations officielles BF16, FP8, INT4, AWQ, GPTQ, GGUF ; moteurs Ollama, llama.cpp, vLLM, SGLang. Les trois techniques : Lookahead Expert Scheduling, quantisation fine par niveau, échantillonnage spéculatif DSpark.

iaLocale Team
21 octobre 2026
Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF
GuidesAvancé

Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF

Ce qui tient réellement dans le Mac Studio M5 Ultra 512 Go : la règle des 4 bit pour les MoE (actifs vs totaux), trois voies d’installation GGUF (Ollama, LM Studio, llama.cpp), pourquoi le cache KV est le vrai goulot d’étranglement et quand les 9 999 USD se récupèrent face aux API.

iaLocale Team
20 octobre 2026
Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
ModèlesIntermédiaire

Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM

Ling 3.1 Flash d'inclusionAI : MoE hybride 560B totaux / 25B actifs, contexte natif 1M tokens, checkpoint FP8, licence MIT. Concrètement, pour 24 Go de VRAM : quantifications, parallélisme et coûts API.

iaLocale Team
19 octobre 2026
Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
ModèlesIntermédiaire

Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local

Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.

iaLocale Team
18 octobre 2026
Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs
Cas d’usageIntermédiaire

Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs

Pas besoin d'un grand LLM pour décider. JEV-35B (35 Md, 3 Md actifs) en NVFP4 sur une GPU de 32 Go et ej (11,4 Mo) sur CPU montrent comment faire du routage, de la classification et du contrôle qualité sans générer un seul jeton.

iaLocale Team
17 octobre 2026
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
MatérielIntermédiaire

Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau

Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.

iaLocale Team
16 octobre 2026
À combien revient un token : cinq chemins, les comptes et le point d'équilibre
ComparaisonsIntermédiaire

À combien revient un token : cinq chemins, les comptes et le point d'équilibre

API frontier, abonnement, fournisseurs d'inférence, GPU en location ou matériel à vous : cinq chemins pour générer des tokens, avec les coûts réels par mois, le compte de l'électricité et le point d'équilibre calculé.

iaLocale Team
15 octobre 2026
NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir
ComparaisonsIntermédiaire

NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir

CUDA, ROCm ou Vulkan ? Nous comparons les trois plateformes pour l'IA locale sur la base de ce qui est réellement disponible : stacks logiciels officiels, cartes par palier de VRAM (12, 16 et 24 Go) et vitesses réelles. Où reste le choix évident, où AMD l'emporte au rapport qualité-prix et quand vaut-il la peine de quitter NVIDIA.

iaLocale Team
14 octobre 2026
Les cartes Blackwell de 16 Go : 5060 Ti, 5070, 5070 Ti
MatérielIntermédiaire

Les cartes Blackwell de 16 Go : 5060 Ti, 5070, 5070 Ti

Le palier de 16 Go de VRAM est le centre de gravité de l'IA locale en 2026. C'est la mémoire suffisante pour faire tourner les meilleurs modèles denses open source en format Q4 — la classe 27B, le nouveau point d'équilibre du catalogue ouvert — sans sacrifier trop de contexte, et un prix catalogue qui (selon le mois) reste à la portée d'un budget personnel. La génération Blackwell offre trois cartes exactement au cœur de ce palier : RTX 5060 Ti, 5070 et 5070 Ti. Même génération, même GDDR7, trois expériences très différentes. Nous les comparons aujourd'hui : ce que chacune vous apporte vraiment, et où placer votre budget.

iaLocale Team
13 octobre 2026
Décodage spéculatif et MTP : la vitesse sans compromis
Les basesIntermédiaire

Décodage spéculatif et MTP : la vitesse sans compromis

Le décodage spéculatif accélère l'IA locale sans changer la qualité de la sortie : un modèle esquisse les jetons, le grand modèle les vérifie. Voici comment fonctionne le schéma-verification, les têtes MTP de Qwen, EAGLE sur Mistral Medium 3.5 et comment activer le tout en trois commandes.

iaLocale Team
12 octobre 2026
gpt-oss : le modèle de raisonnement open d'OpenAI
ModèlesIntermédiaire

gpt-oss : le modèle de raisonnement open d'OpenAI

21 Md de paramètres au total mais seulement 3,6 Md actifs, poids natifs en MXFP4 et 128K de contexte : le premier modèle de raisonnement open d'OpenAI tient dans 16 Go. Ce que cela change en pratique.

iaLocale Team
11 octobre 2026
Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse
MatérielIntermédiaire

Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse

128 ou 512 Go de mémoire partagée entre CPU et GPU : trois plateformes réelles, le bande passante qui décide de la vitesse, et les comptes sur ce qui y tient et pour qui cela a du sens.

iaLocale Team
10 octobre 2026
Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go
ComparaisonsIntermédiaire

Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go

Dense de 27,8 Md ou MoE avec 3,8 Md actifs, un contexte de 262K contre 256K et presque le même poids en Q4_K_M : deux façons opposées d'apporter la qualité d'un grand modèle sur une carte grand public de 24 Go. Qui va plus vite, qui va plus en profondeur, et quand choisir l'un ou l'autre.

iaLocale Team
9 octobre 2026
Modèles d'images en local : de SDXL à Qwen-Image
ModèlesIntermédiaire

Modèles d'images en local : de SDXL à Qwen-Image

Des 2,6B de paramètres de SDXL aux 7B de Qwen-Image 2.1 : fonctionnement des diffusion models, VRAM réellement nécessaire et quel modèle choisir selon votre matériel.

iaLocale Team
9 octobre 2026
Ollama vs llama.cpp : sous le capot
ComparaisonsIntermédiaire

Ollama vs llama.cpp : sous le capot

Ollama utilise llama.cpp sous le capot, mais les deux ne sont pas la même chose : l'un est le moteur, l'autre la voiture. Ce qu'il y a vraiment dessous, quand la différence compte et comment choisir sans slogans.

iaLocale Team
7 octobre 2026
Coûts : local vs API, avec les vrais chiffres
Cas d’usageIntermédiaire

Coûts : local vs API, avec les vrais chiffres

Combien coûte vraiment le local par rapport à une API cloud ? Tarifs par token vérifiés, amortissement de la carte graphique, électricité et point de rentabilité, calculé avec les vrais chiffres.

iaLocale Team
6 octobre 2026
La voix locale : de Whisper au text-to-speech
GuidesIntermédiaire

La voix locale : de Whisper au text-to-speech

Comment construire un pipeline de voix entièrement local : transcription avec Whisper, synthèse avec Piper ou Kokoro-82M, exigences matérielles et cas d'usage concrets.

iaLocale Team
5 octobre 2026
L'italien dans les modèles locaux : à quoi s'attendre
ModèlesIntermédiaire

L'italien dans les modèles locaux : à quoi s'attendre

Combien de modèles locaux tiennent vraiment l'italien ? Les chiffres des éditeurs, où ils se trompent, et la méthode en une demi-heure pour les mesurer vous-même.

iaLocale Team
4 octobre 2026
Confidentialité : ce qui circule vraiment sur le réseau quand l'IA est locale
ConfidentialitéIntermédiaire

Confidentialité : ce qui circule vraiment sur le réseau quand l'IA est locale

Vos données ne quittent pas la machine — presque. Voici ce qui part vraiment sur le réseau avec Ollama et LM Studio, et comment le vérifier en une demi-heure avec tcpdump, Wireshark et mitmproxy.

iaLocale Team
3 octobre 2026
Modèle sans GPU : quand le CPU suffit vraiment
MatérielIntermédiaire

Modèle sans GPU : quand le CPU suffit vraiment

En 2026, l'inférence sur CPU seul n'est plus un pis-aller : quand elle fonctionne vraiment, à quelle vitesse s'attendre et quelles manettes tirer pour presser le processeur.

iaLocale Team
2 octobre 2026
KV cache : pourquoi la RAM sert à plus que le seul modèle
Les basesIntermédiaire

KV cache : pourquoi la RAM sert à plus que le seul modèle

Ce qu'est la KV cache, la formule pour la calculer avec les chiffres de Llama 3.1 8B et Qwen3 8B, et les trois leviers pour la gérer : contexte, quantisation et flash attention.

iaLocale Team
1 octobre 2026
GGUF : le format qui fait tenir les modèles sur votre matériel
ModèlesIntermédiaire

GGUF : le format qui fait tenir les modèles sur votre matériel

GGUF est le format à fichier unique qui distribue les modèles pour l'inférence locale : en-tête avec signature et version, métadonnées clé-valeur, index des tenseurs et poids alignés pour un chargement rapide via mmap. Types de quantification avec tailles réelles (8B de 14.96 Gio en F16 à 4.58 Gio en Q4_K_M), convention de nommage et règle pour choisir la taille selon la VRAM ou la RAM.

iaLocale Team
30 septembre 2026
Fine-tuning : adapter un modèle à vos données avec LoRA et QLoRA
GuidesIntermédiaire

Fine-tuning : adapter un modèle à vos données avec LoRA et QLoRA

Fine-tuning avec LoRA et QLoRA : quand c'est vraiment nécessaire, comment préparer 100-500 exemples de qualité, combien de VRAM il faut (8-12 Go en QLoRA pour un 7B) et quels outils locaux utiliser : LLaMA-Factory, Unsloth, MLX.

iaLocale Team
29 septembre 2026
Qwen-Image 2.1 : générer et éditer des images en local
ModèlesIntermédiaire

Qwen-Image 2.1 : générer et éditer des images en local

Qwen-Image 2.1 unifie génération à partir de texte, édition et transparence RGBA dans un modèle open de 7B (DiT de 32 couches). Setup local avec diffusers, support natif dans ComfyUI, besoins en VRAM (~14Go en bfloat16) et cas d'usage (stickers, photos de produit, workflows de design).

iaLocale Team
28 septembre 2026
Quantification : tirer davantage du même matériel
ModèlesIntermédiaire

Quantification : tirer davantage du même matériel

La quantification réduit la précision des poids (de FP16 à 4-8 bits) pour faire entrer les modèles dans moins de VRAM et générer plus de tokens par seconde. Niveaux, tailles réelles de Qwen2.5 14B, règle de choix à partir de Q4_K_M et limites (code, raisonnement, langues autres que l'anglais).

iaLocale Team
28 septembre 2026
Quand un grand modèle ne sert à rien : choisir par la taille
ModèlesIntermédiaire

Quand un grand modèle ne sert à rien : choisir par la taille

La méthode pour choisir la taille du modèle selon le matériel : les trois limites (mémoire, vitesse, latence perçue), le tableau VRAM pour la quantification Q4, les classes par matériel et les cas où le petit modèle gagne.

iaLocale Team
27 septembre 2026
Comment lire les spécifications d'un modèle : famille, taille, contexte
ModèlesIntermédiaire

Comment lire les spécifications d'un modèle : famille, taille, contexte

Guide de lecture des spécifications d'un modèle : famille, taille totale et active, fenêtre de contexte, quantification, benchmarks et licence, avec un exemple sur DeepSeek V4.1 Flash.

iaLocale Team
26 septembre 2026
Mistral vs Gemma : les modèles légers comparés
ComparaisonsDébutant

Mistral vs Gemma : les modèles légers comparés

Comparatif complet entre les familles de modèles ouverts Mistral et Gemma : tailles, VRAM nécessaire, contexte, langues supportées et licences, avec une méthode pratique pour choisir le bon modèle pour votre matériel.

iaLocale Team
25 septembre 2026
RAG : posez des questions à vos documents
Les basesDébutant

RAG : posez des questions à vos documents

Le RAG (Retrieval Augmented Generation) est le moyen le plus simple de faire répondre un modèle local à des questions sur vos documents : encodage sémantique, base vectorielle et boucle de récupération.

iaLocale Team
24 septembre 2026
L'IA locale pour votre activité : 5 cas d'usage concrets
Cas d’usageDébutant

L'IA locale pour votre activité : 5 cas d'usage concrets

Cinq cas d'usage pratiques de l'IA locale pour les entreprises : assistance client, documents, recherche interne, CRM et génération — avec les outils, le matériel minimum et un plan de départ en 30 minutes.

iaLocale Team
22 septembre 2026
GPU ou CPU : quand la CPU suffit
MatérielIntermédiaire

GPU ou CPU : quand la CPU suffit

Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.

iaLocale Team
21 septembre 2026
vLLM : servir des modèles rapides
GuidesAvancé

vLLM : servir des modèles rapides

vLLM est le moteur open source qui transforme un modèle local en serveur concurrent : PagedAttention, batching continu, installation et les concepts clés pour choisir quand l'utiliser à la place d'Ollama.

iaLocale Team
20 septembre 2026
Qwen : le modèle open au meilleur support multilingue
ModèlesDébutant

Qwen : le modèle open au meilleur support multilingue

Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.

iaLocale Team
19 septembre 2026
Open WebUI : l'interface de votre IA locale
GuidesIntermédiaire

Open WebUI : l'interface de votre IA locale

Open WebUI est l'interface web complète pour vos modèles locaux : installation Docker, connexion à Ollama, personnalisation par modèle, RAG documentaire et limites honnêtes.

iaLocale Team
18 septembre 2026
L'IA locale sur Mac : le guide complet Apple Silicon
GuidesIntermédiaire

L'IA locale sur Mac : le guide complet Apple Silicon

Pourquoi l'Apple Silicon (mémoire unifiée, cœurs GPU) est la machine la plus simple pour l'IA locale : RAM nécessaire, installation d'Ollama, modèles recommandés par génération et performances réalistes.

iaLocale Team
10 septembre 2026
Qu'est-ce que l'IA locale et pourquoi vous en avez besoin
Les basesDébutant

Qu'est-ce que l'IA locale et pourquoi vous en avez besoin

Explication concrète de l'IA locale : exécuter un modèle sur votre propre matériel plutôt que dans le cloud. Différences avec l'IA cloud, avantages (disponibilité, confidentialité, coûts prévisibles), limites honnêtes et démarrage en cinq minutes avec Ollama.

iaLocale Team
8 septembre 2026
Confidentialité et RGPD : ce que change l'IA locale
ConfidentialitéDébutant

Confidentialité et RGPD : ce que change l'IA locale

Transferts hors UE, sous-traitants et articles 5, 25, 28, 32, 44 : ce que le RGPD dit vraiment du cloud et du local, et ce qui reste dû même avec l'IA en interne.

iaLocale Team
10 juin 2026
Llama 3 et Llama 4 : la famille open de Meta, quel modèle tourne sur votre matériel
ModèlesDébutant

Llama 3 et Llama 4 : la famille open de Meta, quel modèle tourne sur votre matériel

Llama 3 et 4 en tableau : 3B/8B/70B et Scout MoE 109B, RAM requise par modèle, licence Community et le choix par budget.

iaLocale Team
10 juin 2026
Matériel pour l'IA locale : ce qu'il faut en 2026
MatérielIntermédiaire

Matériel pour l'IA locale : ce qu'il faut en 2026

La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.

iaLocale Team
10 juin 2026
Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle
GuidesIntermédiaire

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle

Découvrez comment installer et utiliser de grands modèles de langage sur votre ordinateur, sans dépendre de services cloud.

iaLocale Team
10 juin 2026
IA locale sur Raspberry Pi
MatérielIntermédiaire

IA locale sur Raspberry Pi

De la première installation au modèle qui répond sur un Pi 5 : prix réels 2026, formule tok/s = bande ÷ fichier, compte d'électricité et astuces qui comptent.

iaLocale Team
10 juin 2026
Ollama vs LM Studio : quel outil choisir
ComparaisonsIntermédiaire

Ollama vs LM Studio : quel outil choisir

Ollama pour serveurs et scripts, LM Studio pour l'exploration desktop : tableau comparatif, les deux API (11434/1234) et le cas réel de ceux qui les utilisent ensemble.

iaLocale Team
9 juin 2026
Comment Choisir Votre Premier Modèle d'IA Locale
Les basesIntermédiaire

Comment Choisir Votre Premier Modèle d'IA Locale

Les trois critères pour choisir votre premier modèle local : usage, mémoire (avec la formule exacte) et contexte, avec les modèles conseillés pour 8, 16 et 24 Go.

iaLocale Team
9 juin 2026