Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
Percorsi di lettura
La voce in locale
Dal microfono al sintetizzatore: STT e TTS in locale, le pipeline vocali e i modelli che fanno parlare la tua macchina.
3 articoli nel percorso · 16 min di lettura
Parti da qui
Il percorso in ordine per chi si avvicina all'IA locale: dai concetti base all'installazione e al primo modello.
5 articoli nel percorso · 29 min di lettura
Ottimizza le prestazioni
Scegliere l'hardware giusto e strappare il massimo da quello che hai già: CPU o GPU, Mac, Raspberry Pi e serving veloce.
13 articoli nel percorso · 86 min di lettura
Dati e privacy
Cosa parte davvero in rete con l'IA locale: i dati, la sicurezza, la conformità e il controllo che resta nella tua mano.
3 articoli nel percorso · 19 min di lettura
Scegliere hardware e modello
Come scegliere l'hardware giusto e il modello adatto al tuo uso: VRAM, quantizzazione, GPU o CPU e velocità di risposta.
19 articoli nel percorso · 130 min di lettura
Robotica e modelli di mondo
I modelli di mondo in locale per la robotica: simulazione di guida, policy edge e simulazione chirurgica in tempo reale.
3 articoli nel percorso · 22 min di lettura
Agenti in locale
Agenti che girano in locale: framework per l'inferenza, gateway sicuri e training con dati sintetici. Gli articoli su agenti tool-use, costi API e sicurezza delle chiavi.
5 articoli nel percorso · 32 min di lettura
10 articoli

Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello
Ogni conversazione salvata parola per parola in un file SQLite, senza una sola chiamata al modello: la ricerca gira con embedding locali e il recupero costa 3,1k token. 91,8% su LongMemEval, zero token per salvare.

Cosmos3-Nano-Sim-Auto: il world model di NVIDIA da 16B che simula la guida in tempo reale, in locale
Un world model da 16B che genera fino a 11 telecamere e una nuvola LiDAR sincronizzate: cosa produce, come chiude il loop, e cosa significa davvero girarlo in locale.

Secret Guard e i gateway LLM locali: proteggere i segreti quando l'agente li usa
Secret Guard è un gateway in Rust, open source, che intercetta le richieste del tuo agente e sostituisce i segreti con dei mock prima che arrivino al provider: il modello non li vede mai, e il valore reale torna all'agente.

Agenti on-device per il telefono: cosa portano davvero i mobile agent open (dopo OpenMobile-2)
OpenMobile-2 apre ambienti e ricette di training per agenti mobili, e LFM3-1.7B mostra che un agente da 1,7GB gira già sul telefono: numeri, requisiti minimi e limiti onesti.

Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud
Modello in locale, schema al modello, esecuzione sul tuo database: il text-to-SQL in casa, numeri dal benchmark ARCS e dove si rompe davvero.

MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, workflow e requisiti reali
MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, pronto in due cartelle. VRAM reale calcolata per combinazione di pesi, da ~11GB a ~31GB, e i quattro workflow inclusi.

Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.

Agenti ML che girano in locale: MLExpert ed EpochGo su Ollama, costi API zero
MLExpert alza l'asticella a 35B e 72,7% di medaglie; EpochGo porta tre agenti AutoML su un 16 GB, zero API: cosa funziona oggi, i conti e i limiti.

Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi
Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.

Costi: locale vs API, fatto coi numeri
Quanto costa davvero il locale rispetto a una API cloud? Prezzi per token verificati, ammortamento GPU, elettricità e il punto di pareggio, calcolato con i numeri.

