Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
22 articoli trovati per "modello"

Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello
Ogni conversazione salvata parola per parola in un file SQLite, senza una sola chiamata al modello: la ricerca gira con embedding locali e il recupero costa 3,1k token. 91,8% su LongMemEval, zero token per salvare.

Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale
64,8B di parametri, Apache 2.0, 1M di contesto e un checkpoint NVFP4 pensato per 128 GB di memoria unificata: i conti e i criteri per girare un dense da frontier in locale.

QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza
QRAE usa l'entropia dell'attenzione del modello per decidere quali frammenti recuperati restano nel contesto: token -45%, latenza -30% e successo in crescita su quattro benchmark.

Secret Guard e i gateway LLM locali: proteggere i segreti quando l'agente li usa
Secret Guard è un gateway in Rust, open source, che intercetta le richieste del tuo agente e sostituisce i segreti con dei mock prima che arrivino al provider: il modello non li vede mai, e il valore reale torna all'agente.

Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud
Modello in locale, schema al modello, esecuzione sul tuo database: il text-to-SQL in casa, numeri dal benchmark ARCS e dove si rompe davvero.

Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge
Cosmos3-Edge-Policy-DROID: la policy robotica da 4B di NVIDIA. Quanto hardware serve per farla girare in tempo reale sul Jetson, e dove si ferma.

Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.

Decodifica speculativa e MTP: velocità gratis
La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.

gpt-oss: il modello di ragionamento open di OpenAI
21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.

Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB
Dense da 27,8B o MoE con 3,8B attivi, contesto da 262K contro 256K e quasi lo stesso peso in Q4_K_M: due modi opposti di portare la qualità da modello grande su una scheda consumer da 24GB. Chi va più in fretta, chi va più in profondità, e quando scegliere l'uno o l'altro.

Modelli di immagini in locale: da SDXL a Qwen-Image
Dai 2,6B parametri di SDXL ai 7B di Qwen-Image 2.1: come funzionano i diffusion model, quanti GB di VRAM servono davvero e quale modello scegliere per il tuo hardware.

Modello senza GPU: quando la CPU basta davvero
Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.

KV cache: perché la RAM serve più del solo modello
Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.

Fine-tuning: adattare un modello ai tuoi dati con LoRA e QLoRA
Fine-tuning con LoRA e QLoRA: quando serve davvero, come preparare 100-500 esempi di qualità, quanta VRAM serve (8-12 GB in QLoRA per un 7B) e quali strumenti usare in locale: LLaMA-Factory, Unsloth, MLX.

Qwen-Image 2.1: generare e modificare immagini in locale
Qwen-Image 2.1 unifica generazione da testo, editing e trasparenza RGBA in un modello open da 7B (DiT da 32 layer). Setup locale con diffusers, supporto nativo in ComfyUI, esigenze di VRAM (~14GB in bfloat16) e casi d'uso (sticker, foto di prodotto, workflow di design).

Quando un modello grande non serve: scegliere per dimensione
Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.

Come leggere le specifiche di un modello: famiglia, dimensione, contesto
Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.

Open WebUI: l'interfaccia per la tua IA locale
Open WebUI è l'interfaccia web completa per i tuoi modelli locali: installazione Docker, connessione a Ollama, personalizzazione per modello, RAG con documenti e limiti onesti.

IA locale su Mac: la guida completa Apple Silicon
Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.

IA Locale su Raspberry Pi: Guida Completa
Dal primo install al modello che risponde su un Pi 5: prezzi reali 2026, la formula tok/s = banda ÷ file, il conto di corrente e i trucchi che contano.

Come Scegliere il Tuo Primo Modello IA Locale
I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.

