Vai al contenuto principale

Blog

Articoli, guide e approfondimenti sull'intelligenza artificiale locale

11 articoli trovati per "gpu"

ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti
ConfrontiIntermedio

ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti

Il motore che fa girare i modelli dentro Chrome e YouTube, ora è open source: architettura, numeri di benchmark e il confronto onesto con Ollama e llama.cpp.

iaLocale Team
3 novembre 2026
Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi
Casi d’usoIntermedio

Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi

Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.

iaLocale Team
17 ottobre 2026
Quanto costa un token: cinque strade, i conti e il punto di pareggio
ConfrontiIntermedio

Quanto costa un token: cinque strade, i conti e il punto di pareggio

Frontier API, abbonamento, provider di inferenza, GPU in noleggio o hardware tuo: cinque strade per generare token, coi costi reali al mese, il conto della corrente e il punto di pareggio calcolato.

iaLocale Team
15 ottobre 2026
NVIDIA, AMD e Intel per l'IA locale: quale piattaforma scegliere
ConfrontiIntermedio

NVIDIA, AMD e Intel per l'IA locale: quale piattaforma scegliere

CUDA, ROCm o Vulkan? Confrontiamo le tre piattaforme per l'IA locale sulla base di ciò che è davvero disponibile: stack software ufficiali, schede per fascia di VRAM (12, 16 e 24GB) e velocità reali. Dove resta la scelta ovvia, dove AMD batte per rapporto qualità-prezzo e quando ha senso uscire da NVIDIA.

iaLocale Team
14 ottobre 2026
Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti
HardwareIntermedio

Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti

Il tier da 16GB di VRAM è il centro di gravità dell'IA locale nel 2026. È la memoria sufficiente per far girare i migliori modelli densi open nei formati Q4 — la classe 27B, il nuovo punto d'equilibrio del catalogo aperto — senza sacrificare troppo contesto, e un prezzo di listino che (a seconda del mese) resta alla portata di un budget personale. La generazione Blackwell offre tre schede esattamente in mezzo a questo tier: RTX 5060 Ti, 5070 e 5070 Ti. Stessa generazione, stessa GDDR7, tre esperienze molto diverse. Oggi le confrontiamo: cosa ti porta realmente ciascuna, e dove va il tuo budget.

iaLocale Team
13 ottobre 2026
Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità
HardwareIntermedio

Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità

128GB o 512GB di memoria condivisa tra CPU e GPU: tre piattaforme reali, la banda passante che decide la velocità, e i conti su cosa ci sta dentro e per chi ha senso.

iaLocale Team
10 ottobre 2026
Costi: locale vs API, fatto coi numeri
Casi d’usoIntermedio

Costi: locale vs API, fatto coi numeri

Quanto costa davvero il locale rispetto a una API cloud? Prezzi per token verificati, ammortamento GPU, elettricità e il punto di pareggio, calcolato con i numeri.

iaLocale Team
6 ottobre 2026
Modello senza GPU: quando la CPU basta davvero
HardwareIntermedio

Modello senza GPU: quando la CPU basta davvero

Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.

iaLocale Team
2 ottobre 2026
GPU o CPU: quando la CPU basta
HardwareIntermedio

GPU o CPU: quando la CPU basta

Come funzionano prefill e decode, cosa conta per la velocità (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo.

iaLocale Team
21 settembre 2026
IA locale su Mac: la guida completa Apple Silicon
GuideIntermedio

IA locale su Mac: la guida completa Apple Silicon

Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.

iaLocale Team
10 settembre 2026
Hardware per IA Locale: Cosa Serve Nel 2026
HardwareIntermedio

Hardware per IA Locale: Cosa Serve Nel 2026

La regola di memoria (pesi + KV cache), i prezzi reali di ottobre 2026 per GPU, Apple Silicon e CPU, il conto in 36 mesi e la scelta per budget.

iaLocale Team
10 giugno 2026