Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
13 articoli trovati per "ollama"
Yzma: embedding fino a 2,6x più veloci di Ollama, il confronto
Yzma chiama llama.cpp dentro al processo: niente server, niente round trip. Su embedding è 2,6x più rapido di Ollama — con i numeri, il calcolo e il setup.
ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti
Il motore che fa girare i modelli dentro Chrome e YouTube, ora è open source: architettura, numeri di benchmark e il confronto onesto con Ollama e llama.cpp.
Agenti ML che girano in locale: MLExpert ed EpochGo su Ollama, costi API zero
MLExpert alza l'asticella a 35B e 72,7% di medaglie; EpochGo porta tre agenti AutoML su un 16 GB, zero API: cosa funziona oggi, i conti e i limiti.
MiniCPM-V 4.7: il MoE da 35B che gira sullo smartphone con 3 GB di RAM
MiniCPM-V 4.7 (35B totali, ~3B attivi, rilasciato il 12 ottobre 2026 da OpenBMB e ModelBest) è il primo MoE open della serie, visivo-linguistico: immagini multiple, video, OCR. 13+ tok/s con 3 GB di RAM su iPhone 17 Pro Max, 17+ su Android. Quantizzazioni ufficiali BF16, FP8, INT4, AWQ, GPTQ, GGUF; motore Ollama, llama.cpp, vLLM, SGLang. Le tre tecniche: Lookahead Expert Scheduling, quantizzazione fine per livello, campionamento speculativo DSpark.
Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale
Kolibri (78.1B/3.46B, Apache 2.0, FP8) di Aleph Alpha è il MoE europeo open-weight: reasoning, tool calling e contesto fino a 1M token. In FP8 pesa ~78GB di VRAM: gira su RTX 5090 32GB + RAM condivisa o su Mac a memoria unificata; per l'adozione pratica mancano ancora l'architettura kolibri1 in llama.cpp e i build di Ollama/LM Studio.
Ollama vs llama.cpp: sotto il cofano
Ollama usa llama.cpp sotto il cofano, ma non è la stessa cosa: uno è il motore, l'altro la macchina. Cosa c'è davvero sotto, quando la differenza conta e come scegliere senza slogan.
Privacy: cosa gira davvero in rete quando l'IA è locale
I tuoi dati non lasciano la macchina — quasi. Ecco cosa parte davvero in rete con Ollama e LM Studio, e come verificarlo in mezz'ora con tcpdump, Wireshark e mitmproxy.
Modello senza GPU: quando la CPU basta davvero
Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.
GPU o CPU: quando la CPU basta
Come funzionano prefill e decode, cosa conta per la velocità (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo.
Open WebUI: l'interfaccia per la tua IA locale
Open WebUI è l'interfaccia web completa per i tuoi modelli locali: installazione Docker, connessione a Ollama, personalizzazione per modello, RAG con documenti e limiti onesti.
IA locale su Mac: la guida completa Apple Silicon
Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.
Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.
Ollama vs LM Studio: Quale Tool Scegliere per l'IA Locale
Ollama per server e script, LM Studio per esplorazione desktop: tabella comparativa, le due API (11434/1234) e il caso reale di chi li usa insieme.