Bonsai-2 27B : un modèle de raisonnement 27B ternaire qui tourne sur un laptop
Nouveaux modèlesArticles connexes
MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM
Le premier MoE open de 35B (3B actifs) qui tourne fluidement sur smartphone : 13+ tok/s avec 3 Go de RAM sur iPhone 17 Pro Max, OCR, vidéo et GGUF Q4_K_M de 21,8 Go pour le desktop. Chiffres, trois techniques et limites.
QRAE : compresser le contexte des agents DeepSearch pour économiser token et latence
QRAE utilise l'entropie d'attention du modèle pour décider quels fragments récupérés restent dans le contexte : token -45 %, latence -30 % et succès en hausse sur quatre benchmarks.
gpt-oss : le modèle de raisonnement open d'OpenAI
21 Md de paramètres au total mais seulement 3,6 Md actifs, poids natifs en MXFP4 et 128K de contexte : le premier modèle de raisonnement open d'OpenAI tient dans 16 Go. Ce que cela change en pratique.
Recevez le prochain point IA locale
Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.
Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

