Blog
Articles, guides et analyses sur l'intelligence artificielle locale
10 articles trouvés per "gpu"

ML Drift : le moteur GPU on-device open source de Google, et quand il bat les généralistes
Le moteur qui fait tourner les modèles dans Chrome et YouTube est désormais open source : architecture, chiffres de benchmark et comparaison honnête avec Ollama et llama.cpp.

Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs
Pas besoin d'un grand LLM pour décider. JEV-35B (35 Md, 3 Md actifs) en NVFP4 sur une GPU de 32 Go et ej (11,4 Mo) sur CPU montrent comment faire du routage, de la classification et du contrôle qualité sans générer un seul jeton.

À combien revient un token : cinq chemins, les comptes et le point d'équilibre
API frontier, abonnement, fournisseurs d'inférence, GPU en location ou matériel à vous : cinq chemins pour générer des tokens, avec les coûts réels par mois, le compte de l'électricité et le point d'équilibre calculé.

NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir
CUDA, ROCm ou Vulkan ? Nous comparons les trois plateformes pour l'IA locale sur la base de ce qui est réellement disponible : stacks logiciels officiels, cartes par palier de VRAM (12, 16 et 24 Go) et vitesses réelles. Où reste le choix évident, où AMD l'emporte au rapport qualité-prix et quand vaut-il la peine de quitter NVIDIA.

Les cartes Blackwell de 16 Go : 5060 Ti, 5070, 5070 Ti
Le palier de 16 Go de VRAM est le centre de gravité de l'IA locale en 2026. C'est la mémoire suffisante pour faire tourner les meilleurs modèles denses open source en format Q4 — la classe 27B, le nouveau point d'équilibre du catalogue ouvert — sans sacrifier trop de contexte, et un prix catalogue qui (selon le mois) reste à la portée d'un budget personnel. La génération Blackwell offre trois cartes exactement au cœur de ce palier : RTX 5060 Ti, 5070 et 5070 Ti. Même génération, même GDDR7, trois expériences très différentes. Nous les comparons aujourd'hui : ce que chacune vous apporte vraiment, et où placer votre budget.

Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse
128 ou 512 Go de mémoire partagée entre CPU et GPU : trois plateformes réelles, le bande passante qui décide de la vitesse, et les comptes sur ce qui y tient et pour qui cela a du sens.

Modèle sans GPU : quand le CPU suffit vraiment
En 2026, l'inférence sur CPU seul n'est plus un pis-aller : quand elle fonctionne vraiment, à quelle vitesse s'attendre et quelles manettes tirer pour presser le processeur.

GPU ou CPU : quand la CPU suffit
Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.

L'IA locale sur Mac : le guide complet Apple Silicon
Pourquoi l'Apple Silicon (mémoire unifiée, cœurs GPU) est la machine la plus simple pour l'IA locale : RAM nécessaire, installation d'Ollama, modèles recommandés par génération et performances réalistes.

Matériel pour l'IA locale : ce qu'il faut en 2026
La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.

