Vai al contenuto principale

Blog

Articoli, guide e approfondimenti sull'intelligenza artificiale locale

22 articoli trovati per "modello"

Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello
Casi d’usoIntermedio

Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello

Ogni conversazione salvata parola per parola in un file SQLite, senza una sola chiamata al modello: la ricerca gira con embedding locali e il recupero costa 3,1k token. 91,8% su LongMemEval, zero token per salvare.

iaLocale Team
20 novembre 2026
Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale
ModelliIntermedio

Ripple-65B: un dense da 64,8B in Apache-2.0, i conti per girarlo in locale

64,8B di parametri, Apache 2.0, 1M di contesto e un checkpoint NVFP4 pensato per 128 GB di memoria unificata: i conti e i criteri per girare un dense da frontier in locale.

iaLocale Team
19 novembre 2026
QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza
ModelliIntermedio

QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza

QRAE usa l'entropia dell'attenzione del modello per decidere quali frammenti recuperati restano nel contesto: token -45%, latenza -30% e successo in crescita su quattro benchmark.

iaLocale Team
18 novembre 2026
Secret Guard e i gateway LLM locali: proteggere i segreti quando l'agente li usa
Casi d’usoIntermedio

Secret Guard e i gateway LLM locali: proteggere i segreti quando l'agente li usa

Secret Guard è un gateway in Rust, open source, che intercetta le richieste del tuo agente e sostituisce i segreti con dei mock prima che arrivino al provider: il modello non li vede mai, e il valore reale torna all'agente.

iaLocale Team
6 novembre 2026
Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud
Casi d’usoIntermedio

Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud

Modello in locale, schema al modello, esecuzione sul tuo database: il text-to-SQL in casa, numeri dal benchmark ARCS e dove si rompe davvero.

iaLocale Team
1 novembre 2026
Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge
ConfrontiIntermedio

Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge

Cosmos3-Edge-Policy-DROID: la policy robotica da 4B di NVIDIA. Quanto hardware serve per farla girare in tempo reale sul Jetson, e dove si ferma.

iaLocale Team
30 ottobre 2026
Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
Casi d’usoIntermedio

Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli

ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.

iaLocale Team
27 ottobre 2026
Decodifica speculativa e MTP: velocità gratis
FondamentiIntermedio

Decodifica speculativa e MTP: velocità gratis

La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.

iaLocale Team
12 ottobre 2026
gpt-oss: il modello di ragionamento open di OpenAI
ModelliIntermedio

gpt-oss: il modello di ragionamento open di OpenAI

21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.

iaLocale Team
11 ottobre 2026
Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB
ConfrontiIntermedio

Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB

Dense da 27,8B o MoE con 3,8B attivi, contesto da 262K contro 256K e quasi lo stesso peso in Q4_K_M: due modi opposti di portare la qualità da modello grande su una scheda consumer da 24GB. Chi va più in fretta, chi va più in profondità, e quando scegliere l'uno o l'altro.

iaLocale Team
9 ottobre 2026
Modelli di immagini in locale: da SDXL a Qwen-Image
ModelliIntermedio

Modelli di immagini in locale: da SDXL a Qwen-Image

Dai 2,6B parametri di SDXL ai 7B di Qwen-Image 2.1: come funzionano i diffusion model, quanti GB di VRAM servono davvero e quale modello scegliere per il tuo hardware.

iaLocale Team
9 ottobre 2026
Modello senza GPU: quando la CPU basta davvero
HardwareIntermedio

Modello senza GPU: quando la CPU basta davvero

Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.

iaLocale Team
2 ottobre 2026
KV cache: perché la RAM serve più del solo modello
FondamentiIntermedio

KV cache: perché la RAM serve più del solo modello

Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.

iaLocale Team
1 ottobre 2026
Fine-tuning: adattare un modello ai tuoi dati con LoRA e QLoRA
GuideIntermedio

Fine-tuning: adattare un modello ai tuoi dati con LoRA e QLoRA

Fine-tuning con LoRA e QLoRA: quando serve davvero, come preparare 100-500 esempi di qualità, quanta VRAM serve (8-12 GB in QLoRA per un 7B) e quali strumenti usare in locale: LLaMA-Factory, Unsloth, MLX.

iaLocale Team
29 settembre 2026
Qwen-Image 2.1: generare e modificare immagini in locale
ModelliIntermedio

Qwen-Image 2.1: generare e modificare immagini in locale

Qwen-Image 2.1 unifica generazione da testo, editing e trasparenza RGBA in un modello open da 7B (DiT da 32 layer). Setup locale con diffusers, supporto nativo in ComfyUI, esigenze di VRAM (~14GB in bfloat16) e casi d'uso (sticker, foto di prodotto, workflow di design).

iaLocale Team
28 settembre 2026
Quando un modello grande non serve: scegliere per dimensione
ModelliIntermedio

Quando un modello grande non serve: scegliere per dimensione

Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.

iaLocale Team
27 settembre 2026
Come leggere le specifiche di un modello: famiglia, dimensione, contesto
ModelliIntermedio

Come leggere le specifiche di un modello: famiglia, dimensione, contesto

Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.

iaLocale Team
26 settembre 2026
Open WebUI: l'interfaccia per la tua IA locale
GuideIntermedio

Open WebUI: l'interfaccia per la tua IA locale

Open WebUI è l'interfaccia web completa per i tuoi modelli locali: installazione Docker, connessione a Ollama, personalizzazione per modello, RAG con documenti e limiti onesti.

iaLocale Team
18 settembre 2026
IA locale su Mac: la guida completa Apple Silicon
GuideIntermedio

IA locale su Mac: la guida completa Apple Silicon

Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.

iaLocale Team
10 settembre 2026
Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
GuideIntermedio

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.

iaLocale Team
10 giugno 2026
IA Locale su Raspberry Pi: Guida Completa
HardwareIntermedio

IA Locale su Raspberry Pi: Guida Completa

Dal primo install al modello che risponde su un Pi 5: prezzi reali 2026, la formula tok/s = banda ÷ file, il conto di corrente e i trucchi che contano.

iaLocale Team
10 giugno 2026
Come Scegliere il Tuo Primo Modello IA Locale
FondamentiIntermedio

Come Scegliere il Tuo Primo Modello IA Locale

I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.

iaLocale Team
9 giugno 2026