llama.cpp : rapport hebdomadaire du 7 au 14 septembre — build b4991, bug de thinking de Gemma 4 corrigé et driver Vulkan r615 pour la CI
On-device et edgeArticles connexes
NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir
CUDA, ROCm ou Vulkan ? Nous comparons les trois plateformes pour l'IA locale sur la base de ce qui est réellement disponible : stacks logiciels officiels, cartes par palier de VRAM (12, 16 et 24 Go) et vitesses réelles. Où reste le choix évident, où AMD l'emporte au rapport qualité-prix et quand vaut-il la peine de quitter NVIDIA.
Nemotron 3.5 Bolt : le MoE de 74B de NVIDIA avec ~9B actifs, ce que ça change sur votre desktop
74 milliards de paramètres, 9B actifs : le MoE de NVIDIA pour les tâches agentiques en local tient dans 24 Go de VRAM grâce à la quantisation IQ2. VRAM réelle, chiffres déclarés et limites franches.
Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local
NVIDIA a réédité Nemotron Parse (v1.1, v1.2, 2.0) dans la même semaine du 20 octobre : moins d'un milliard de paramètres, structure de page incluse. Installation locale avec vLLM, et limites honnêtes.
Recevez le prochain point IA locale
Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.
Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

