Vai al contenuto principale

Blog

Articoli, guide e approfondimenti sull'intelligenza artificiale locale

26 articoli trovati per "modelli"

Agenti aziendali con modelli open: il report Gartner sui costi, i conti e la regola del 90%
ConfrontiIntermedio

Agenti aziendali con modelli open: il report Gartner sui costi, i conti e la regola del 90%

Il report Gartner stimato a novembre 2026: 90% dei passi agentici di un agente aziendale su modelli open-weight, costo pari a un quinto del frontier. Spiegati i tre numeri chiave, i presupposti e quando conviene davvero.

iaLocale Team
12 novembre 2026
ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti
ConfrontiIntermedio

ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti

Il motore che fa girare i modelli dentro Chrome e YouTube, ora è open source: architettura, numeri di benchmark e il confronto onesto con Ollama e llama.cpp.

iaLocale Team
3 novembre 2026
Frontier vs IA locale: il confronto onesto che nessuno fa
ConfrontiIntermedio

Frontier vs IA locale: il confronto onesto che nessuno fa

I modelli frontier sono ancora più potenti sui casi complessi, ma il costo è l'ultima cosa che decide: tabella, punto di pareggio e la risposta onesta a "prepaghi e poi viaggi gratis?".

iaLocale Team
27 ottobre 2026
Da dove imparano i modelli locali: i pesi aperti spiegati senza fuffa
FondamentiPrincipiante

Da dove imparano i modelli locali: i pesi aperti spiegati senza fuffa

Il modello non si aggancia a internet per le capacità: le ha assorbite una volta al pre-training e le esegue sul tuo hardware. Pesi aperti non è dati aperti, e i modelli vengono da molti lab, non da uno solo.

iaLocale Team
27 ottobre 2026
Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
Casi d’usoIntermedio

Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli

ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.

iaLocale Team
27 ottobre 2026
Intel e AMD collaborano su PyTorch/oneDNN: cosa cambia per l'IA locale sulle CPU
HardwareIntermedio

Intel e AMD collaborano su PyTorch/oneDNN: cosa cambia per l'IA locale sulle CPU

AMD unifica ZenDNN in oneDNN, Intel unisce le sue estensioni ACE: un solo stack open source per l'accelerazione x86 in PyTorch, già di default. Cosa cambia se fai girare i modelli in locale su CPU.

iaLocale Team
25 ottobre 2026
Nemotron-Parse: la famiglia OCR di NVIDIA per leggere i documenti in locale
ModelliPrincipiante

Nemotron-Parse: la famiglia OCR di NVIDIA per leggere i documenti in locale

Nemotron Parse è la famiglia di modelli vision-encoder-decoder di NVIDIA che legge i PDF in locale: markdown formattato, formule LaTeX, coordinate e classe semantica di ogni elemento, nell'ordine di lettura. v1.1 (nov 2025), v1.2 (feb 2026) e 2.0 (giu 2026), tutte sotto il miliardo di parametri e rieditate il 20 ottobre; la 2.0 sale a 0.72 di ANLS sulle scritture indiche. In locale con vLLM da v0.20 a v0.26: i documenti restano sul tuo hardware.

iaLocale Team
24 ottobre 2026
Mac Studio M5 Ultra: guida pratica a 512GB - modelli che ci stanno e setup GGUF
GuideAvanzato

Mac Studio M5 Ultra: guida pratica a 512GB - modelli che ci stanno e setup GGUF

Cosa ci sta davvero nel Mac Studio M5 Ultra da 512GB: la regola dei 4 bit per i MoE (attivi vs totali), tre vie di setup GGUF (Ollama, LM Studio, llama.cpp), perché la KV cache è il vero collo di bottiglia e quando i 9.999 USD si ripagano rispetto alle API.

iaLocale Team
20 ottobre 2026
Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi
Casi d’usoIntermedio

Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi

Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.

iaLocale Team
17 ottobre 2026
Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop
HardwareIntermedio

Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop

Quattro die, 512GB di memoria unificata a 1,2 TB/s: il Mac Studio M5 Ultra porta i modelli MoE da 100 a 560B in locale. I conti sulla velocità, il confronto di costo con la DGX Station e quando il Mac è la scelta giusta.

iaLocale Team
16 ottobre 2026
Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti
HardwareIntermedio

Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti

Il tier da 16GB di VRAM è il centro di gravità dell'IA locale nel 2026. È la memoria sufficiente per far girare i migliori modelli densi open nei formati Q4 — la classe 27B, il nuovo punto d'equilibrio del catalogo aperto — senza sacrificare troppo contesto, e un prezzo di listino che (a seconda del mese) resta alla portata di un budget personale. La generazione Blackwell offre tre schede esattamente in mezzo a questo tier: RTX 5060 Ti, 5070 e 5070 Ti. Stessa generazione, stessa GDDR7, tre esperienze molto diverse. Oggi le confrontiamo: cosa ti porta realmente ciascuna, e dove va il tuo budget.

iaLocale Team
13 ottobre 2026
Decodifica speculativa e MTP: velocità gratis
FondamentiIntermedio

Decodifica speculativa e MTP: velocità gratis

La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.

iaLocale Team
12 ottobre 2026
gpt-oss: il modello di ragionamento open di OpenAI
ModelliIntermedio

gpt-oss: il modello di ragionamento open di OpenAI

21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.

iaLocale Team
11 ottobre 2026
Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB
ConfrontiIntermedio

Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GB

Dense da 27,8B o MoE con 3,8B attivi, contesto da 262K contro 256K e quasi lo stesso peso in Q4_K_M: due modi opposti di portare la qualità da modello grande su una scheda consumer da 24GB. Chi va più in fretta, chi va più in profondità, e quando scegliere l'uno o l'altro.

iaLocale Team
9 ottobre 2026
Modelli di immagini in locale: da SDXL a Qwen-Image
ModelliIntermedio

Modelli di immagini in locale: da SDXL a Qwen-Image

Dai 2,6B parametri di SDXL ai 7B di Qwen-Image 2.1: come funzionano i diffusion model, quanti GB di VRAM servono davvero e quale modello scegliere per il tuo hardware.

iaLocale Team
9 ottobre 2026
L'italiano nei modelli locali: cosa aspettarsi
ModelliIntermedio

L'italiano nei modelli locali: cosa aspettarsi

Quanti modelli locali reggono davvero l'italiano? I numeri dei vendor, dove sbagliano, e il metodo in mezz'ora per misurarli tu stesso.

iaLocale Team
4 ottobre 2026
GGUF: il formato che fa stare i modelli sul tuo hardware
ModelliIntermedio

GGUF: il formato che fa stare i modelli sul tuo hardware

GGUF è il formato a file singolo che distribuisce i modelli per l'inferenza locale: header con firma e versione, metadati chiave-valore, indice dei tensor e pesi allineati per il caricamento rapido via mmap. Tipi di quantizzazione con dimensioni reali (8B da 14.96 GiB a F16 a 4.58 GiB a Q4_K_M), convenzione sui nomi e regola per scegliere la dimensione rispetto a VRAM o RAM.

iaLocale Team
30 settembre 2026
Quantizzazione: ottenere di più dallo stesso hardware
ModelliIntermedio

Quantizzazione: ottenere di più dallo stesso hardware

La quantizzazione riduce la precisione dei pesi (da FP16 a 4-8 bit) per far entrare i modelli in meno VRAM e generare più token al secondo. Livelli, dimensioni reali di Qwen2.5 14B, regola di scelta da Q4_K_M e limiti (codice, ragionamento, lingue diverse dall'inglese).

iaLocale Team
28 settembre 2026
Quando un modello grande non serve: scegliere per dimensione
ModelliIntermedio

Quando un modello grande non serve: scegliere per dimensione

Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.

iaLocale Team
27 settembre 2026
Come leggere le specifiche di un modello: famiglia, dimensione, contesto
ModelliIntermedio

Come leggere le specifiche di un modello: famiglia, dimensione, contesto

Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.

iaLocale Team
26 settembre 2026
Mistral vs Gemma: modelli leggeri confrontati
ConfrontiPrincipiante

Mistral vs Gemma: modelli leggeri confrontati

Confronto completo tra le famiglie di modelli aperti Mistral e Gemma: dimensioni, VRAM necessaria, contesto, lingue supportate e licenze, con un metodo pratico per scegliere il modello giusto per il tuo hardware.

iaLocale Team
25 settembre 2026
vLLM: servire modelli veloci
GuideAvanzato

vLLM: servire modelli veloci

vLLM è il motore open source che trasforma un modello locale in un server concorrente: PagedAttention, continuous batching, installazione e i concetti chiave per scegliere quando usarlo al posto di Ollama.

iaLocale Team
20 settembre 2026
Qwen: il modello open con il miglior supporto multilingua
ModelliPrincipiante

Qwen: il modello open con il miglior supporto multilingua

Qwen è la famiglia open con il miglior supporto per italiano e francese: generazioni, dimensioni, MoE, quando usarlo e confronto rapido con Llama.

iaLocale Team
19 settembre 2026
Open WebUI: l'interfaccia per la tua IA locale
GuideIntermedio

Open WebUI: l'interfaccia per la tua IA locale

Open WebUI è l'interfaccia web completa per i tuoi modelli locali: installazione Docker, connessione a Ollama, personalizzazione per modello, RAG con documenti e limiti onesti.

iaLocale Team
18 settembre 2026
Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
GuideIntermedio

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.

iaLocale Team
10 giugno 2026
Come Scegliere il Tuo Primo Modello IA Locale
FondamentiIntermedio

Come Scegliere il Tuo Primo Modello IA Locale

I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.

iaLocale Team
9 giugno 2026