Vai al contenuto principale

Blog

Articoli, guide e approfondimenti sull'intelligenza artificiale locale

15 articoli trovati per "hardware"

Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge
ConfrontiIntermedio

Cosmos 3 Edge: la policy DROID per la robotica che gira sull'edge

Cosmos3-Edge-Policy-DROID: la policy robotica da 4B di NVIDIA. Quanto hardware serve per farla girare in tempo reale sul Jetson, e dove si ferma.

iaLocale Team
30 ottobre 2026
Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM
ModelliIntermedio

Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM

Ling 3.1 Flash di inclusionAI: MoE ibrido 560B totali / 25B attivi, contesto nativo 1M token, checkpoint FP8, licenza MIT. Cosa significa concretamente per chi ha 24GB di VRAM: quantaggi, parallelismo e costi API.

iaLocale Team
19 ottobre 2026
Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale
ModelliIntermedio

Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale

Kolibri (78.1B/3.46B, Apache 2.0, FP8) di Aleph Alpha è il MoE europeo open-weight: reasoning, tool calling e contesto fino a 1M token. In FP8 pesa ~78GB di VRAM: gira su RTX 5090 32GB + RAM condivisa o su Mac a memoria unificata; per l'adozione pratica mancano ancora l'architettura kolibri1 in llama.cpp e i build di Ollama/LM Studio.

iaLocale Team
18 ottobre 2026
Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop
HardwareIntermedio

Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop

Quattro die, 512GB di memoria unificata a 1,2 TB/s: il Mac Studio M5 Ultra porta i modelli MoE da 100 a 560B in locale. I conti sulla velocità, il confronto di costo con la DGX Station e quando il Mac è la scelta giusta.

iaLocale Team
16 ottobre 2026
Quanto costa un token: cinque strade, i conti e il punto di pareggio
ConfrontiIntermedio

Quanto costa un token: cinque strade, i conti e il punto di pareggio

Frontier API, abbonamento, provider di inferenza, GPU in noleggio o hardware tuo: cinque strade per generare token, coi costi reali al mese, il conto della corrente e il punto di pareggio calcolato.

iaLocale Team
15 ottobre 2026
Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità
HardwareIntermedio

Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità

128GB o 512GB di memoria condivisa tra CPU e GPU: tre piattaforme reali, la banda passante che decide la velocità, e i conti su cosa ci sta dentro e per chi ha senso.

iaLocale Team
10 ottobre 2026
Modelli di immagini in locale: da SDXL a Qwen-Image
ModelliIntermedio

Modelli di immagini in locale: da SDXL a Qwen-Image

Dai 2,6B parametri di SDXL ai 7B di Qwen-Image 2.1: come funzionano i diffusion model, quanti GB di VRAM servono davvero e quale modello scegliere per il tuo hardware.

iaLocale Team
9 ottobre 2026
La voce locale: da Whisper al text-to-speech
GuideIntermedio

La voce locale: da Whisper al text-to-speech

Come costruire una pipeline di voce completamente locale: trascrizione con Whisper, sintesi con Piper o Kokoro-82M, requisiti hardware e casi d'uso pratici.

iaLocale Team
5 ottobre 2026
GGUF: il formato che fa stare i modelli sul tuo hardware
ModelliIntermedio

GGUF: il formato che fa stare i modelli sul tuo hardware

GGUF è il formato a file singolo che distribuisce i modelli per l'inferenza locale: header con firma e versione, metadati chiave-valore, indice dei tensor e pesi allineati per il caricamento rapido via mmap. Tipi di quantizzazione con dimensioni reali (8B da 14.96 GiB a F16 a 4.58 GiB a Q4_K_M), convenzione sui nomi e regola per scegliere la dimensione rispetto a VRAM o RAM.

iaLocale Team
30 settembre 2026
Quantizzazione: ottenere di più dallo stesso hardware
ModelliIntermedio

Quantizzazione: ottenere di più dallo stesso hardware

La quantizzazione riduce la precisione dei pesi (da FP16 a 4-8 bit) per far entrare i modelli in meno VRAM e generare più token al secondo. Livelli, dimensioni reali di Qwen2.5 14B, regola di scelta da Q4_K_M e limiti (codice, ragionamento, lingue diverse dall'inglese).

iaLocale Team
28 settembre 2026
Quando un modello grande non serve: scegliere per dimensione
ModelliIntermedio

Quando un modello grande non serve: scegliere per dimensione

Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.

iaLocale Team
27 settembre 2026
GPU o CPU: quando la CPU basta
HardwareIntermedio

GPU o CPU: quando la CPU basta

Come funzionano prefill e decode, cosa conta per la velocità (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo.

iaLocale Team
21 settembre 2026
Hardware per IA Locale: Cosa Serve Nel 2026
HardwareIntermedio

Hardware per IA Locale: Cosa Serve Nel 2026

La regola di memoria (pesi + KV cache), i prezzi reali di ottobre 2026 per GPU, Apple Silicon e CPU, il conto in 36 mesi e la scelta per budget.

iaLocale Team
10 giugno 2026
Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
GuideIntermedio

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.

iaLocale Team
10 giugno 2026
IA Locale su Raspberry Pi: Guida Completa
HardwareIntermedio

IA Locale su Raspberry Pi: Guida Completa

Dal primo install al modello che risponde su un Pi 5: prezzi reali 2026, la formula tok/s = banda ÷ file, il conto di corrente e i trucchi che contano.

iaLocale Team
10 giugno 2026