Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
31 articoli trovati per "modello"

Qwen3.8-2.4T-A95B: i conti per girare 2,4 trilioni di parametri open-weight, con 95B attivi
Il primo modello della classe Qwen-Max in open-weight (2,4T parametri, 95B attivi) supera qualsiasi nodo consumer: i calcoli per pesi, hardware multi-nodo, ammortamento su 36 mesi e costi di corrente, e quando ha senso farlo in locale.

Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello
Ogni conversazione salvata parola per parola in un file SQLite, senza una sola chiamata al modello: la ricerca gira con embedding locali e il recupero costa 3,1k token. 91,8% su LongMemEval, zero token per salvare.

Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale
64,8B di parametri, Apache 2.0, 1M di contesto e un checkpoint NVFP4 pensato per 128 GB di memoria unificata: i conti e i criteri per girare un dense da frontier in locale.

QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza
QRAE usa l'entropia dell'attenzione del modello per decidere quali frammenti recuperati restano nel contesto: token -45%, latenza -30% e successo in crescita su quattro benchmark.

Cosmos3-H-Dreams: la simulazione chirurgica in tempo reale di NVIDIA, e la robotica in locale
Un modello di mondo da 15B che genera in tempo reale il video di un intervento robotico su una singola GPU: cosa cambia per la robotica in locale.

Secret Guard e i gateway LLM locali: proteggere i segreti quando l'agente li usa
Secret Guard è un gateway in Rust, open source, che intercetta le richieste del tuo agente e sostituisce i segreti con dei mock prima che arrivino al provider: il modello non li vede mai, e il valore reale torna all'agente.

Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud
Modello in locale, schema al modello, esecuzione sul tuo database: il text-to-SQL in casa, numeri dal benchmark ARCS e dove si rompe davvero.

Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge
Cosmos3-Edge-Policy-DROID: la policy robotica da 4B di NVIDIA. Quanto hardware serve per farla girare in tempo reale sul Jetson, e dove si ferma.

Da dove imparano i modelli locali: i pesi aperti spiegati senza fuffa
Il modello non si aggancia a internet per le capacità: le ha assorbite una volta al pre-training e le esegue sul tuo hardware. Pesi aperti non è dati aperti, e i modelli vengono da molti lab, non da uno solo.

Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.

MagpieTTS 357M: la sintesi vocale in 12 lingue che gira anche su laptop
NVIDIA pubblica MagpieTTS Multilingual, 364M di parametri e 12 lingue in un solo modello: sintesi vocale in locale con un file GGUF da 332 MB, senza GPU. Il runtime C++ NeMo-Speech.cpp porta da zero al primo audio in tre comandi; le cinque voci sono le stesse in tutte le lingue, e per una voce italiana nativa Piper resta davanti.

Decodifica speculativa e MTP: velocità gratis
La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.

gpt-oss: il modello di ragionamento open di OpenAI
21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.

Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB
Dense da 27,8B o MoE con 3,8B attivi, contesto da 262K contro 256K e quasi lo stesso peso in Q4_K_M: due modi opposti di portare la qualità da modello grande su una scheda consumer da 24GB. Chi va più in fretta, chi va più in profondità, e quando scegliere l'uno o l'altro.

Modelli di immagini in locale: da SDXL a Qwen-Image
Dai 2,6B parametri di SDXL ai 7B di Qwen-Image 2.1: come funzionano i diffusion model, quanti GB di VRAM servono davvero e quale modello scegliere per il tuo hardware.

Modello senza GPU: quando la CPU basta davvero
Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.

KV cache: perché la RAM serve più del solo modello
Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.

Fine-tuning: adattare un modello ai tuoi dati con LoRA e QLoRA
Fine-tuning con LoRA e QLoRA: quando serve davvero, come preparare 100-500 esempi di qualità, quanta VRAM serve (8-12 GB in QLoRA per un 7B) e quali strumenti usare in locale: LLaMA-Factory, Unsloth, MLX.

Qwen-Image 2.1: generare e modificare immagini in locale
Qwen-Image 2.1 unifica generazione da testo, editing e trasparenza RGBA in un modello open da 7B (DiT da 32 layer). Setup locale con diffusers, supporto nativo in ComfyUI, esigenze di VRAM (~14GB in bfloat16) e casi d'uso (sticker, foto di prodotto, workflow di design).

Quando un modello grande non serve: scegliere per dimensione
Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.

Come leggere le specifiche di un modello: famiglia, dimensione, contesto
Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.

Mistral vs Gemma: modelli leggeri confrontati
Confronto completo tra le famiglie di modelli aperti Mistral e Gemma: dimensioni, VRAM necessaria, contesto, lingue supportate e licenze, con un metodo pratico per scegliere il modello giusto per il tuo hardware.

RAG: fai domande ai tuoi documenti
RAG, Retrieval Augmented Generation, è il modo più semplice per far rispondere un modello locale a domande sui tuoi documenti: embedding, database vettoriale e ciclo di recupero.

vLLM: servire modelli veloci
vLLM è il motore open source che trasforma un modello locale in un server concorrente: PagedAttention, continuous batching, installazione e i concetti chiave per scegliere quando usarlo al posto di Ollama.

Qwen: il modello open con il miglior supporto multilingua
Qwen è la famiglia open con il miglior supporto per italiano e francese: generazioni, dimensioni, MoE, quando usarlo e confronto rapido con Llama.

Open WebUI: l'interfaccia per la tua IA locale
Open WebUI è l'interfaccia web completa per i tuoi modelli locali: installazione Docker, connessione a Ollama, personalizzazione per modello, RAG con documenti e limiti onesti.

IA locale su Mac: la guida completa Apple Silicon
Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.

Llama 3 e Llama 4: la famiglia open di Meta, quale modello gira sul vostro hardware
Llama 3 e 4 in tabella: 3B/8B/70B e Scout MoE 109B, RAM necessaria per modello, licenza Community e la scelta per budget.

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.

IA Locale su Raspberry Pi: Guida Completa
Dal primo install al modello che risponde su un Pi 5: prezzi reali 2026, la formula tok/s = banda ÷ file, il conto di corrente e i trucchi che contano.

Come Scegliere il Tuo Primo Modello IA Locale
I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.

