Vai al contenuto principale

Blog

Articoli, guide e approfondimenti sull'intelligenza artificiale locale

12 articoli trovati per "contesto"

Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale
ModelliIntermedio

Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale

64,8B di parametri, Apache 2.0, 1M di contesto e un checkpoint NVFP4 pensato per 128 GB di memoria unificata: i conti e i criteri per girare un dense da frontier in locale.

iaLocale Team
19 novembre 2026
QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza
ModelliIntermedio

QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza

QRAE usa l'entropia dell'attenzione del modello per decidere quali frammenti recuperati restano nel contesto: token -45%, latenza -30% e successo in crescita su quattro benchmark.

iaLocale Team
18 novembre 2026
Mistral Large 4 in open-weight: un MoE da 1T (52B attivi) per l'inferenza on-premise
ModelliIntermedio

Mistral Large 4 in open-weight: un MoE da 1T (52B attivi) per l'inferenza on-premise

Mistral ha pubblicato Large 4 in open-weight (1,03T totali, 52B attivi, 1M di contesto, licenza open-weight): un articolo che insegna a leggere le specifiche MoE e a fare i conti di RAM, quantizzazione e velocità per l'inferenza on-premise.

iaLocale Team
14 novembre 2026
Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM
ModelliIntermedio

Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM

Ling 3.1 Flash di inclusionAI: MoE ibrido 560B totali / 25B attivi, contesto nativo 1M token, checkpoint FP8, licenza MIT. Cosa significa concretamente per chi ha 24GB di VRAM: quantaggi, parallelismo e costi API.

iaLocale Team
19 ottobre 2026
Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale
ModelliIntermedio

Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale

Kolibri (78.1B/3.46B, Apache 2.0, FP8) di Aleph Alpha è il MoE europeo open-weight: reasoning, tool calling e contesto fino a 1M token. In FP8 pesa ~78GB di VRAM: gira su RTX 5090 32GB + RAM condivisa o su Mac a memoria unificata; per l'adozione pratica mancano ancora l'architettura kolibri1 in llama.cpp e i build di Ollama/LM Studio.

iaLocale Team
18 ottobre 2026
Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti
HardwareIntermedio

Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti

Il tier da 16GB di VRAM è il centro di gravità dell'IA locale nel 2026. È la memoria sufficiente per far girare i migliori modelli densi open nei formati Q4 — la classe 27B, il nuovo punto d'equilibrio del catalogo aperto — senza sacrificare troppo contesto, e un prezzo di listino che (a seconda del mese) resta alla portata di un budget personale. La generazione Blackwell offre tre schede esattamente in mezzo a questo tier: RTX 5060 Ti, 5070 e 5070 Ti. Stessa generazione, stessa GDDR7, tre esperienze molto diverse. Oggi le confrontiamo: cosa ti porta realmente ciascuna, e dove va il tuo budget.

iaLocale Team
13 ottobre 2026
gpt-oss: il modello di ragionamento open di OpenAI
ModelliIntermedio

gpt-oss: il modello di ragionamento open di OpenAI

21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.

iaLocale Team
11 ottobre 2026
Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB
ConfrontiIntermedio

Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB

Dense da 27,8B o MoE con 3,8B attivi, contesto da 262K contro 256K e quasi lo stesso peso in Q4_K_M: due modi opposti di portare la qualità da modello grande su una scheda consumer da 24GB. Chi va più in fretta, chi va più in profondità, e quando scegliere l'uno o l'altro.

iaLocale Team
9 ottobre 2026
KV cache: perché la RAM serve più del solo modello
FondamentiIntermedio

KV cache: perché la RAM serve più del solo modello

Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.

iaLocale Team
1 ottobre 2026
Come leggere le specifiche di un modello: famiglia, dimensione, contesto
ModelliIntermedio

Come leggere le specifiche di un modello: famiglia, dimensione, contesto

Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.

iaLocale Team
26 settembre 2026
Mistral vs Gemma: modelli leggeri confrontati
ConfrontiPrincipiante

Mistral vs Gemma: modelli leggeri confrontati

Confronto completo tra le famiglie di modelli aperti Mistral e Gemma: dimensioni, VRAM necessaria, contesto, lingue supportate e licenze, con un metodo pratico per scegliere il modello giusto per il tuo hardware.

iaLocale Team
25 settembre 2026
Come Scegliere il Tuo Primo Modello IA Locale
FondamentiIntermedio

Come Scegliere il Tuo Primo Modello IA Locale

I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.

iaLocale Team
9 giugno 2026