Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
5 articoli trovati per "Locale"

Qwen3.8-2.4T-A95B: i conti per girare 2,4 trilioni di parametri open-weight, con 95B attivi
Il primo modello della classe Qwen-Max in open-weight (2,4T parametri, 95B attivi) supera qualsiasi nodo consumer: i calcoli per pesi, hardware multi-nodo, ammortamento su 36 mesi e costi di corrente, e quando ha senso farlo in locale.

SynthAPI: ambienti sintetici e scaling laws per allenare agenti tool-use
Ambienti sintetici con fallimenti regolati per allenare agenti tool-use in locale: le scaling laws di SynthAPI e i conti — ~€1,6 di energia contro ~€158 di API per 10.000 task.

Cosmos3-H-Dreams: la simulazione chirurgica in tempo reale di NVIDIA, e la robotica in locale
Un modello di mondo da 15B che genera in tempo reale il video di un intervento robotico su una singola GPU: cosa cambia per la robotica in locale.

Mac Studio M5 Ultra: guida pratica a 512GB - modelli che ci stanno e setup GGUF
Cosa ci sta davvero nel Mac Studio M5 Ultra da 512GB: la regola dei 4 bit per i MoE (attivi vs totali), tre vie di setup GGUF (Ollama, LM Studio, llama.cpp), perché la KV cache è il vero collo di bottiglia e quando i 9.999 USD si ripagano rispetto alle API.

vLLM: servire modelli veloci
vLLM è il motore open source che trasforma un modello locale in un server concorrente: PagedAttention, continuous batching, installazione e i concetti chiave per scegliere quando usarlo al posto di Ollama.

