Tideway : VRAM et RAM gérées comme un seul pool pour les MoE en local
RechercheArticles connexes
GPU ou CPU : quand la CPU suffit
Faut-il vraiment une GPU pour l'IA locale ? Pour beaucoup d'usages, non : le prefill et le decode, ce qui compte (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer sur votre matériel.
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.
Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
Ling 3.1 Flash apporte 560B de paramètres open-weight sous licence MIT avec 1M de contexte. Il ne rentre pas dans 24 Go de VRAM, mais les quantifications, le MoE 25B actifs et les vrais chiffres changent le calcul.
Recevez le prochain point IA locale
Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.
Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

