Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
2 articoli trovati per "ottimizzazione"

HardwareIntermedio
Modello senza GPU: quando la CPU basta davvero
Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.
iaLocale Team2 ottobre 2026

FondamentiIntermedio
KV cache: perché la RAM serve più del solo modello
Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.
iaLocale Team1 ottobre 2026

