IA locale sur Raspberry Pi

Un Raspberry Pi n'est pas un serveur, mais il peut exécuter des modèles d'IA en local — et pour un sous-ensemble précis de travaux, il fait le travail mieux qu'on ne le pense : assistant personnel toujours allumé, automatisations légères, classification, prototypage. Le point n'est pas la vitesse, c'est le prix : une machine qui tourne 24 h/24 coûte moins d'un café par mois en électricité. Voici les chiffres réels et le parcours de la première installation au modèle qui répond.

Ce qu'on peut vraiment en faire, et ce qu'on ne peut pas

La règle physique est simple : la vitesse de génération est limitée par la bande passante mémoire, pas par les cycles du CPU. La formule :

tok/s maximum ≈ bande passante mémoire (Go/s) ÷ taille du fichier du modèle (Go)

Le Pi 5 a une bande passante d'environ 17 Go/s. Un Llama 3.1 8B en Q4_K_M pèse ~4,9 Go : le plafond théorique est 17 ÷ 4,9 ≈ 3,5 tok/s ; le mesuré sur des Pi 5 réels se stabilise entre 2 et 3 tok/s (Jeff Geerling a enregistré 1,99 tok/s sur un 16 Go). En pratique :

Modèle (Q4)	Fichier	Plafond théorique Pi 5	Mesuré Pi 5	Usage
Llama 3.2 1B	~0,8 Go	~20 tok/s	10–15	automatisations, classification
Llama 3.2 3B	~1,9 Go	~8,6 tok/s	4–6	chat légère, réorganisation de texte
Qwen3-4B	~2,5 Go	~6,8 tok/s	3–5	chat avec meilleur italien et français
Llama 3.1 8B	~4,9 Go	~3,5 tok/s	2–3	qualité maximale praticable
Qwen3-8B	~5,3 Go	~3,2 tok/s	2–3	idem, multilingue

3 tok/s, c'est une phrase toutes les 3 à 4 secondes : ça va pour la chat interactive, pas pour analyser un document de 50 pages. Les modèles MoE (Qwen3-30B-A3B) n'entrent pas par taille : 19 Go en Q4, et le Pi 5 16 Go ne le porte pas.

Quel Pi acheter

Les prix ont beaucoup changé en 2026 : le coût de la mémoire a doublé à cause de la demande de l'infrastructure IA, et Raspberry Pi a relevé ses prix deux fois en trois mois.

Carte	Prix officiel (2026)	Note
Pi 4 (8 Go)	~115 $	Bande 25 Go/s, CPU plus lent : 1,5–2 tok/s sur 8B
Pi 5 (8 Go)	~125 $	Va pour 1–4B ; l'8B Q4 (4,9 Go + KV cache + OS) tient, mais juste
Pi 5 (16 Go)	~205 $	Le bon choix : 8B Q4 avec marge, contexte 8–16K

Les prix officiels sont publiés par Raspberry Pi dans ses notes de hausse ; les valeurs ci-dessus reflètent les deux augmentations (décembre 2025 et février 2026). Ajoutez au kit : alimentation officielle 27W (le Pi 5 en veut ~12–15W à pleine charge), boîtier avec ventilateur, et un SSD NVMe si vous voulez une I/O digne (~40–60 $ d'accessoires).

De la première installation au modèle qui répond

1. Préparez la carte. Téléchargez Raspberry Pi Imager, sélectionnez Raspberry Pi OS (64 bits), et écrivez l'image sur la microSD. Pendant la configuration, activez SSH et donnez un nom. Si vous écrivez sur NVMe via USB, le boot est plus rapide et le swap n'use pas la microSD.

2. Allumez et vérifiez. Branchez HDMI, clavier, réseau. Au premier login :

sudo apt update && sudo apt full-upgrade -y
free -h

Vous devriez voir la RAM libre (sur un 16 Go, ~15 Go disponibles). Si le Pi affiche « undervoltage », vous avez la mauvaise alimentation : passez au 27W officiel.

3. Installez Ollama.

curl -fsSL https://ollama.com/install.sh | sh

À la fin, ollama --version doit afficher le numéro. Sur un Pi 5, l'installation est propre : l'ARM64 est supporté directement.

4. Téléchargez le modèle.

ollama pull qwen3:4b
ollama run qwen3:4b

Le premier lancement télécharge ~2,5 Go : à 50 Mbps, comptez 10 minutes. Quand le prompt apparaît, essayez : « Écris en français : quelle est la différence entre RAM et VRAM, en deux lignes. »

5. Vérifiez que ça tourne où il faut.

ollama ps

Ça doit afficher le modèle en 100% CPU. Si le modèle disparaît et réapparaît, il passe sur le swap : le fichier ne tient pas en RAM et la vitesse s'effondre à 0,5 tok/s. Si le modèle est « 100% CPU » et que la vitesse est celle attendue (3–5 tok/s pour un 4B Q4), tout est bon.

Combien ça coûte en électricité

Le Pi 5 à pleine charge CPU consomme 12 à 15 W ; au repos, 3 à 4 W. Le compte :

Scénario	Consommation moyenne	kWh/mois	Coût (0,25 €/kWh)
24/7, charge alternée (moyenne 8W)	8 W	5,8	~1,45 €/mois
24/7, avec NVMe et périphériques (moyenne 15W)	15 W	10,8	~2,70 €/mois
12 h/jour (moyenne 8W)	8 W	2,9	~0,72 €/mois

Calcul : 8 W × 24 h × 30 j = 5,76 kWh ; × 0,25 €/kWh = 1,44 €. C'est un ordre de grandeur sous n'importe quelle machine desktop : une workstation avec RTX 4090 sous charge fait 350–450 W et coûte ~40 €/mois pour 8 heures de travail, comme montré dans Combien coûte un token.

Les trois astuces qui comptent

1. NVMe pour le swap. Le Pi 5 supporte le NVMe via USB : mettez le swap là et la microSD ne s'use pas. Le modèle chargé reste en RAM ; le NVMe sert au boot et au swap des processus secondaires.

2. zram pour étendre la RAM. Si le modèle tient à 5,5 Go sur un 8 Go, zram compresse la RAM libre et vous donne une marge :

sudo modprobe zram num_devices=1
sudo zramctl /dev/zram0 --size 4G
sudo mkswap /dev/zram0 && sudo swapon /dev/zram0

3. Contrôlez le contexte. Chaque token de contexte ajoute des octets à la KV cache. Sur un 4B, 8K de contexte coûtent ~1 Go ; 32K en coûtent 3 à 4. Pour des chat courtes, laissez le défaut (4–8K) : vous n'avez pas besoin de plus, et chaque Go que le contexte prend est un Go de moins pour le modèle.

Où le Pi n'est pas le bon choix

Si votre cas est la qualité (raisonnements longs, code complexe, textes articulés), le Pi n'est pas la machine : un 8B à 3 tok/s n'est pas une expérience. Si votre cas est la vitesse (analyse de documents, automatisations en batch), 10–20 tok/s sur un CPU desktop à 150–200 € est 5 à 8 fois plus rapide pour un quart du prix. Le Pi gagne dans un cas précis : toujours allumé, toujours disponible, coût d'électricité négligeable, encombrement zéro.

En synthèse : le Pi 5 16 Go (~205 $) exécute Qwen3-4B à 3–5 tok/s et Llama 3.1 8B à 2–3 tok/s, avec un coût d'électricité de 1 à 3 € par mois en 24/7. C'est un assistant personnel toujours allumé, pas une workstation. Pour la qualité ou la vitesse, achetez une autre machine ; pour le « toujours allumé », le Pi est imbattable.

Sources

• Raspberry Pi — prix officiels et notes de hausse (décembre 2025, février 2026)
• Tom's Hardware — Pi 5 16 Go à 205 $, deuxième hausse en trois mois
• Ollama — installation Linux
• Raspberry Pi Imager — téléchargement
• Benchmark Pi 5 : plafonds théoriques et mesurés par modèle
• Jeff Geerling — Llama 3.1 8B sur Pi 5 16 Go : 1,99 tok/s

Article généré par IA