Notizie
Ultime notizie e aggiornamenti sull'intelligenza artificiale locale
179 notizie
KIWI: la chiamata GPU→CPU in sub-microsecondo, fino a 2,3x più veloce per l'expert parallel
22 novembre 2026Il paper KIWI (arXiv) ribalta la gerarchia delle comunicazioni device-initiated: il reverse offload sui thread host, esposto come interfaccia programmabile, batte i backend GPUDirect — fino a 2,3x di latenza in meno sull'expert-parallel MoE su GPU AMD e -29% di tempo per token in vLLM.
WAM-Policy: world action models e distillazione on-policy per la loco-manipolazione di quadrupedi
22 novembre 2026Il paper WAM-Policy insegna ai quadrupedi senza braccio a camminare su tre zampe mentre manipolano con la quarta, seguendo istruzioni in linguaggio: la distillazione on-policy dai world action models porta la policy a seguire comandi, e il progetto è open-sourced.
spiruxbench: 22 LLM locali sotto esame per trovare il successore del Qwen 3.6 35B
22 novembre 2026Un benchmark indipendente misura 22 LLM locali (i quant specifici che girano su un PC gaming) con sfide di coding agentico in container isolati — ~10 ore per run completo — e confronta i fine-tune di Qwen 3.6 con i dense alternativi come Qwen 3.8 Flash Next.
Riva-Translate 4B v1.1: la traduzione locale in 12 lingue, distillata da Minitron-8B
20 novembre 2026NVIDIA pubblica Riva-Translate-4B-Instruct v1.1: un modello di traduzione da 4B parametri (BF16, ~8,4 GB) distillato da Mistral-NeMo-Minitron-8B-Base, con 12 lingue e dialetti e prestazioni paragonabili a EuroLLM-9B-Instruct su FLORES e WMT24.
P-Image-OSS: immagini a 8 megapixel in 8 passi, da 83 a 101 GB di VRAM per girarle in locale
20 novembre 2026PrunaAI pubblica P-Image-OSS, un modello di generazione e editing di immagini open basato su MiniMax-H3: 8 passi senza CFG, 8 MP in text-to-image, editing con fino a 8 immagini di input e prompt upsampler incluso (Qwen3.5-9B). In bf16 servono ~101 GB di VRAM (83 senza l'upsampler); la variante ComfyUI int8/4-bit gira in 21 GB.
Parakeet TDT 0.6B v2: trascrizione ASR locale, 24 minuti di audio in un solo passaggio
20 novembre 2026NVIDIA aggiorna Parakeet TDT 0.6B alla versione v2: il modello di trascrizione NeMo (0,6B parametri, inglese) gestisce audio fino a 24 minuti in un solo passaggio e ottiene RTFx 3380 sul leaderboard HF-Open-ASR con batch 128. Una famiglia di ASR compatta pensata per il locale.
CompoundingKernel: l'agente che scrive kernel GPU da zero, primo su tutte le classifiche SOL-ExecBench
20 novembre 2026Un sistema di agenti auto-miglioranti parte solo dalla specifica PyTorch e scrive kernel GPU per ricerca: l'11 novembre 2026 era primo su tutte e tre le classifiche pubbliche SOL-ExecBench (L1, L2, Quantization) su NVIDIA B200, con tutti i 235 kernel corretti e 4,40x più veloci della baseline.
JunctionBox: Claude Code, Codex e i modelli Ollama su un unico piano di controllo, sul tuo hardware
20 novembre 2026JunctionBox è una piattaforma per orchestrare agenti di coding (Claude Code, Codex, Grok) e modelli Ollama su hardware proprio: memoria condivisa tra agenti, tool use con guardie per i modelli piccoli e modelli locali anche senza GPU — i test del progetto riportano BitNet a ~16 token/s con meno di 2 GB di RAM.
Jeveration: i modelli System One generano immagini in un solo passaggio, 512x512 in 78 ms
19 novembre 2026I modelli di decisione tipo Jev usano previsioni parallele e veloci: il paper Jeveration mostra che lo stesso paradigma genera immagini di qualità in un unico forward pass, con un checkpoint unico per testo-in-immagine, immagine-in-immagine e predizione densa. Un'immagine 512x512 in 78 ms, fino a 122x più veloce dei modelli unificati esistenti.
Tideway: VRAM e RAM gestite come un unico pool per i MoE in locale
19 novembre 2026Paper su Hugging Face: TIDEWAY tratta la RAM di sistema e la VRAM della GPU come un unico pool di memoria, con layout adatti alle fasi prefill e decode. Su hardware consumer dichiara 1,97x di velocità end-to-end e 2,40x sul time-to-first-token rispetto al baseline più rapido.
Sashiko 0.9.4: la revisione di codice IA per il kernel Linux valuta ora anche il design della serie
19 novembre 2026Sashiko, il tool di screening IA per i patch del kernel Linux sviluppato da ingegneri Google, arriva alla v0.9.4: con 'sashiko review --design' una pipeline sperimentale in quattro fasi valuta il design complessivo di una serie di patch, oltre alla revisione patch per patch. Supporto first-class anche per e2fsprogs; il tool resta LLM-agnostic.
Weight-Space Programming: il modello progetta i pesi a mano, senza gradiente
18 novembre 2026Nuovo paper su Hugging Face: tre LLM frontier, con dieci esempi etichettati e un sandbox, scrivono i pesi del modello a mano invece di addestrarli. Liberi di progettare l'architettura, tutti e tre convergono su una tabella sparsa interrogata da una procedura fissa, con punteggi test fino al 54,4%.
llama.cpp b12199: build CUDA 13.5 e ROCm 10.0, UTF-8 sanificato nei tool call
18 novembre 2026Pre-release dell'8 novembre con la sanitizzazione dell'UTF-8 invalido negli argomenti PEG dei tool call (#31861), build Linux e Windows con librerie CUDA 13.5, ROCm 10.0, SYCL e Vulkan, zDNN per s390x e build Snapdragon con CPU, Adreno e Hexagon NPU.
WorldFoundry: l'infrastruttura open per inferenza e valutazione dei world model
18 novembre 2026Paper su Hugging Face che definisce il generative world model (sistema dinamico predittivo con stato persistente e risposte causalmente coerenti) e presenta WorldFoundry, infrastruttura open source per inferenza e valutazione riproducibili: catalogo con 270 voci di modelli, 74 benchmark e 62 metriche registrate.
SenseNova-Loop-9B: l'architettura a loop che porta 32 layer a 56 esecuzioni con 9B di parametri
18 novembre 2026Il modello multimodale di SenseNova riusa i pesi dei 24 layer centrali due volte (blocco a loop con hyper-connections mHC a due flussi): contesto fino a 512K token e, con pesi 4-bit e KV 8-bit, circa 15 GiB di VRAM per 256K di contesto. GAIA 69,90, Terminal-Bench 2.1 59,55; su AIDABench supera Qwen3.8-27B (65,31 vs 65,01).
Envisioning Agentic Robotics: la roadmap della robotica agentica dopo GPT-6 Astra
17 novembre 2026I modelli frontier con harness agentici eguagliano o superano le policy specifiche per task in poche settimane: il paper traccia dove va la robotica, con un focus esplicito su safety, valutazione condivisa e il momento in cui il robot deve fermarsi e chiedere.
llama.cpp b12198: log proxy in trace e build per CUDA 13.5, ROCm 10.0 e SYCL
17 novembre 2026Il server di llama.cpp riduce i log proxy per-request al livello trace; pre-release per macOS, Linux (CPU, Vulkan, CUDA 12/13, ROCm, OpenVINO, SYCL), Windows, Android e Snapdragon con NPU. Il ritmo del motore del server locale resta settimanale.
byob: l'agente IA desktop in Rust, senza Electron, per i modelli che già girano in locale
17 novembre 2026byob è un coworker IA nativo per desktop: legge e scrive file, esegue codice e costruisce spreadsheet e app accanto al chat, puntato a qualsiasi endpoint OpenAI-compatibile — llama-server, Ollama, LM Studio, vLLM — o a Claude. Un programma solo per Linux, macOS e Windows, circa 60 MB di download, nessun account.
llama.cpp b12063: device copies per dflash e build CUDA 13.4
17 novembre 2026dflash copia le hidden features tramite device copies; pre-release con CUDA 13.4, ROCm 10.0, OpenVINO e SYCL per Linux, macOS, Windows, Android e Snapdragon. Il passo precedente di b12198 nella serie di rilasci del motore.
Gamer: il modello fondazionale vision-linguazione-azione di miHoYo per i giochi in tempo reale
17 novembre 2026miHoYo pubblica Gamer, un agente generalist che gioca ai 3D solo tramite screenshot, tastiera e mouse, senza API né stato privilegiato del gioco: oltre 10.000 ore di gameplay per il pre-training e reinforcement learning in tempo reale.
Local Model Finder: lo strumento che scansiona Hugging Face e trova i modelli che stanno nel tuo hardware
14 novembre 2026Uno strumento open che interroga i cataloghi pubblici e restituisce i modelli, con le quant GGUF, che ci stanno nella RAM o VRAM dichiarata: un filtro oggettivo in più prima di scegliere il modello.
Duo v1: il world model full-duplex che percepisce audio e video mentre risponde
14 novembre 2026inclusionAI pubblica Duo v1, un Reciprocal World Model full-duplex: percepisce in continuazione audio, video e testo e risponde in tempo reale, con conversazioni spontanee, interruzioni e condivisione di oggetti reali. I pesi sono su Hugging Face.
Tokspur: il motore di inferenza open source che promette 3x la velocità su Mac
14 novembre 2026Tokspur è un motore di inferenza open source per Apple Silicon basato su Metal: le dichiarazioni parlano di una decodifica fino a tre volte più veloce dei motori classici su MacBook e Mac Studio. I numeri vanno presi con cautela finché non ci sono benchmark indipendenti.
Cloudflare rende open source Kitesurf, il browser stateless per agenti IA
14 novembre 2026Kitesurf, il browser stateless pensato per gli agenti, è ora open source: nessun profilo persistente, una sessione per task, pensato per l'automazione web senza stato condiviso tra le esecuzioni.
Octen-WebGR-4B: un modello da 4B open-weight che ha memorizzato 200 milioni di URL
14 novembre 2026Octen-WebGR-4B è un modello di web graph retrieval a 4 miliardi di parametri, con pesi aperti e demo live: recupera URL esistenti da query in linguaggio naturale, un'idea nuova per il retrieval di risorse web senza indice vettoriale.
llmtee: il proxy LLM self-hosted che mette i costi degli agenti su un foglio di calcolo
12 novembre 2026llmtee è un proxy LLM self-hosted (binario Go + SQLite) che registra ogni richiesta con token, costo, latenza e tempo al primo token per OpenAI, Anthropic, OpenRouter, Ollama, vLLM e Groq. Include budget giornalieri e mensili per chiave con blocco a 429, dashboard, export CSV e endpoint Prometheus.
AgentBaton: NVIDIA passa i task dal modello potente a quello economico, -66% sui costi
12 novembre 2026La tecnica AgentBaton (NVIDIA) usa un rilevatore leggero per passare i task da un modello potente a uno economico nei task agentici lunghi. Risparmi medi del 65,9% sui costi API e guadagni di accuratezza fino a 8,8 punti percentuali.
Gemma 4 E2B: il modello multimodale di Google ottimizzato per l’on-device, Apache 2.0
12 novembre 2026Google rilascia Gemma 4 E2B, la variante compatta (2,3B effettivi) della famiglia multimodale Gemma 4: testo e immagini, contesto da 128K, oltre 140 lingue e licenza Apache 2.0. Pensato per girare su device e hardware consumer.
ComfyUI v0.45.0: prestazioni su Qwen 3.x, input video e due nuovi modelli di immagine
12 novembre 2026ComfyUI pubblica v0.45.0: quarta parte delle ottimizzazioni per Qwen 3.x (pesi lineari paralleli combinati), supporto input video per Qwen 3.x e due nuovi modelli, RelayVSR e WeVisOne-VL, tra i tanti nodi partner della release.
NEO-VLA: la policy vision-azione senza encoder, il modello che guarda il mondo in pixel
12 novembre 2026NEO-VLA (MMLab, NTU) è un framework vision-language-action senza encoder: le immagini in pixel evolvono insieme al linguaggio attraverso le profondità e un esperto di azioni a flow-matching usa le rappresentazioni di più strati. Le architetture native battono quelle basate su encoder.
PyRUA-DataFarm: l'agente coding sostituisce il teleoperatore, le policy su dati di farm eguagliano la teleoperazione
11 novembre 2026PyRUA-DataFarm: un agente coding sostituisce il teleoperatore — riceve una richiesta dati e un episodio di calibrazione, ricrea il task in simulazione e lo rende come video fotografico. Su 5 task reali, le policy addestrate solo sui dati della farm eguagliano la teleoperazione (93 vs 84/100); costo medio 21 $ una tantum + 0,80 $ a episodio, 107 $ l'ora di dati a tre viste.
Open WebUI 0.13.0: workspace a schede e tab Desktop/Browser per pilotare computer e web app insieme al modello
11 novembre 2026Open WebUI 0.13.0 porta il workspace a schede (file, terminal, anteprime, chiamate vocali), la tab Desktop per controllare il computer collegato con mouse e tastiera, e la tab Browser per uso del browser e test di web app, in Chrome mode anche in sessione condivisa col modello.
llama.cpp b12122: matmul NVFP4 e GLU fusi in MMQ su CUDA, un solo kernel per il blocco MLP quantizzato
11 novembre 2026llama.cpp b12122 fonde i matmul gate/up NVFP4 e la GLU in MMQ su CUDA: un solo kernel per il blocco MLP quantizzato, con precisione src1 rispettata e scale condivise. Il rilascio include build per CUDA 12 e 13, ROCm, Vulkan, SYCL e Snapdragon.
NVIDIA rilascia Isaac GR00T N1.7: la famiglia di modelli fondazionali per robot umanoidi, 4 varianti fino a 3B pronte per il locale
11 novembre 2026NVIDIA pubblica Isaac GR00T N1.7, famiglia di modelli fondazionali aperti (4 varianti) per il ragionamento e le abilità di robot umanoidi: input multimodale (linguaggio, immagini, propriocezione), transformer d'azione con flow matching, post-training su Bridge, DROID e LIBERO. Il modello da 3B è pronto per uso commerciale e non commerciale.
Flide: il motore di inferenza open source per i modelli di decisione, fino a 9,5x più veloce
10 novembre 2026OmniJev pubblica Flide, un motore di inferenza open source per i modelli di decisione tipo Jev. La tecnica è il forking esatto dello stato, che fa condividere i calcoli tra più domande preservando la semantica delle decisioni: i test dichiarano fino a 9,5x rispetto a vLLM e SGLang, con 30+ modelli di decisione open source supportati (Decision Index 0.4.1).
llama.cpp v0.9.0: quantizzazione FP8 OCP, KV unificato per multi-sequenza e TTS Chatterbox
10 novembre 2026Il motore di inferenza locale aggiunge la quantizzazione OCP FP8 E4M3 (modalità saturante) e l'operatore flash_attn_ext_rows che rende il KV cache unificato efficiente per l'inferenza multi-sequenza. Nuove architetture (Clover-35B-A3B-Preview, Limite 1B, Metis-1.6 e Mistral Large 4), TTS Chatterbox, Nemotron 3.5 Transcribe in 40 lingue e prefill più veloce per gemma4 E2B/E4B; ggml passa a v0.29.0 con parallelismo di tensori multi-nodo NCCL.
HEELO: i primitive agenti come mattoni riutilizzabili, i task completi triplicano
10 novembre 2026Agent-Native Primitives equipaggia tool, codice e conoscenza con esperti propri basati su LLM; HEELO compone dinamicamente harness di task da 8 famiglie di primitive. Su 20+ benchmark e 46 task reali, collegare i sistemi agentici esistenti a HEELO fa salire i task completati da 9 a 39 con Claude Code e da 9 a 35 con Codex.
Weight-Space Programming: agenti che modificano i pesi dei modelli, senza addestrare
10 novembre 2026Un paper valutato su Hugging Face mostra agenti che ispezionano e modificano direttamente i parametri di una rete neurale, in alternativa all'adattamento basato su gradienti: 16 traiettorie di editing su 7 benchmark e due scale di modello. I risultati: trasferimento tra task irregolare, variazioni sostanziali tra ricerche indipendenti e guadagni più limitati sul modello più grande.
llama.cpp v0.8.0: la famiglia LFM3, il realtime OpenAI e la sintesi vocale nel server
9 novembre 2026Il motore di inferenza locale aggiunge la famiglia LFM3 (testo 1,7B, vision 2B, audio 2B, omni 2B con ASR, TTS e voice chat), l'endpoint /v1/realtime compatibile col protocollo OpenAI realtime e un POST /tts dedicato, oltre a nuove architetture e cache ibrida per gli expert MoE in host.
Qwen3.8-2.4T-A95B: 2,4 trilioni di parametri open-weight, 95B attivi
9 novembre 2026Alibaba pubblica il primo modello della classe Qwen-Max in open-weight: 2,4T di parametri totali con 95B attivi, MoE da 512 expert (10 instradati + 1 condiviso), attenzione ibrida Gated DeltaNet, contesto nativo da 262k token estendibile a 1M.
vLLM v0.33.0rc3: CUDA 13.0, nuovi modelli MoE e decodifica speculativa su AMD
9 novembre 2026927 commit e 389 contributor: vLLM passa a PyTorch 2.14 e Triton 3.8 con CUDA 13.0 unico, ruote ABI-stabili e image AWS EFA. Arrivano Beam-1.0 (501B MoE, 23B attivi) e Flint (40B, 2,5B attivi), e il refiner XPress con la verifica FLy porta 1,04-1,31x di decode su MI355X e B300.
EmbeddingGemma 2: un solo spazio per testo, immagini, video e audio, su hardware consumer
9 novembre 2026Google DeepMind pubblica l'embedding multimodale da 740M parametri: testo, codice, immagini, video e audio in uno spazio unificato da 768 dimensioni, con 100+ lingue, contesto 8K e vettori Matryoshka che riducono lo storage fino a 6x. Apache 2.0, gira su mobile e laptop.
Ripple-65B-Preview: ricursiveAI pubblica un modello dense da 64,8B in Apache-2.0
7 novembre 2026RicursiveAI ha pubblicato Ripple-65B-Preview: un modello dense da 64,782,689,360 parametri in Apache-2.0, con checkpoint BF16 da 129,5 GB e quantizzazioni già disponibili. Il modello è salito nella classifica trending di Hugging Face con 337 like; richiede custom_code per l'uso. È un punto di riferimento concreto per chi valuta un grande modello self-hosted a licenza libera.
Graph-MIND (ora turnbook): memoria locale per agenti coding senza una sola chiamata al modello
7 novembre 2026Graph-MIND, ribattezzato turnbook, è una memoria di lungo periodo in locale per gli agenti di codifica: salva e recupera senza una sola chiamata al modello, con ricerca parola per parola. Segnala 91,8% su LongMemEval partendo da 3,1k token per query, ed è condiviso tra Claude Code, Codex, Cursor, Copilot CLI, Gemini CLI e OpenCode. Un'alternativa concreta alle memorie che delegano il recupero al modello.
Narro legge pagine web e libri Kindle ad alta voce con voci IA nel browser
7 novembre 2026Narro è un'estensione Chrome che legge pagine web e libri Kindle (lettore online) ad alta voce usando voci sintetiche generate in locale, nel browser: Kokoro-82M, Supertonic 2 (inglese, spagnolo, francese, portoghese, coreano), Piper e Kitten TTS Nano. In modalità locale non serve né account né server; per le voci cloud si inserisce la propria chiave API. Nessuna parola letta lascia la macchina.
NVIDIA rilascia Metatron-v1: una policy humanoidica che gira nel browser, senza server
7 novembre 2026Metatron-v1 è la policy di controllo di NVIDIA per il robot umanoide Unitree G1 (29 giunti), pubblicata in open con licenza NVIDIA Open Model License. Il punto di partenza: gira dentro il browser, su ONNX Runtime Web + WebGPU, con la simulazione MuJoCo compilata in WASM. Il modello ONNX pesa 403 MB, il checkpoint PyTorch nativo 459,455,983 byte. Nessun server, nessuna GPU di data center: l'inferenza avviene sul terminale del visitatore.
Qwen3.8-Flash-Next: il MoE da 125B con soli 6B attivi, pensato per l'agentico
6 novembre 2026Alibaba pubblica Qwen3.8-Flash-Next: 125B di parametri con solo 6B attivati, più 51B di embedding n-gram e 4B di MTP. L'architettura ibrida alterna 48 layer tra Gated DeltaNet e Qwen Sparse Attention (512 esperti, 10 routed + 1 shared), con contesto nativo da 262K token estendibile a 1M. Su DeepSWE 1.1 ottiene 58.7 — il modello è pensato per i carichi agentici che dominano l'uso reale.
QRAE: comprime il contesto degli agenti DeepSearch guardando quali token pesano davvero
6 novembre 2026I DeepSearch agents accumulano a ogni passo di ricerca un contesto sempre più lungo, ma molte fonti recuperate non contribuiscono alla risposta. QRAE usa l'entropia dell'attenzione rilevante alla query per comprimere quel contesto: un metodo nuovo per ridurre token e latenza negli agenti che cercano in rete più volte.
Nanbeige4.3-33B: MoE da 33B con 4B di RAM, licenza MIT, multilingua con supporto italiano
6 novembre 2026Nanbeige4.3-33B è un MoE da 33B con 3B di parametri attivi, pensato per dispositivi con poca RAM: quantizzato, ci sta in circa 4 GB e gira con Ollama su laptop, Raspberry Pi o Mac mini, con supporto anche per Ollama Cloud e i client compatibili OpenAI API. Licenza MIT, multilingua — l'italiano è in cima alla lista delle 20+ lingue supportate.
Spark-X2.6-4B: il modello da 4B di Xhtk che gira in locale e passa da 0 a 4,49 su HLE
6 novembre 2026Xhtk rilascia Spark-X2.6-4B in formato GGUF con licenza MIT: 4B di parametri, 3B attivati, 48 layer ibridi (36 Sparse Attention + 12 Mamba2), KV cache ridotta a 1/3 e supporto contesti da 32K fino a 256K. In un solo ciclo di training il punteggio HLE (Humanity's Last Exam) sale da 0 a 4,49. Per chi vuole un modello leggero che non pesi sulla GPU, è una delle opzioni più complete del momento.
Ollama porta la sintesi vocale locale: 100 volte più veloce del tempo reale su Apple Silicon
6 novembre 2026I modelli voice di Ollama leggono ad alta voce in 100-200 millisecondi di latenza usando il Metal di Apple: su una GPU NVIDIA con CUDA la velocità supera anche 100x il tempo reale. Prima di una conversazione si può generare la riga di system prompt in audio, così l'utente non deve aspettare a ogni messaggio. I modelli voice sono compatibili con l'API OpenAI e con i tool esistenti (Open WebUI, OpenCode, Claude Code).
Addestrare un LLM specialistico sul telefono: ottimizzazione solo in avanti con coordinate block-spectral
6 novembre 2026I task specifici dell'utente non richiedono la capacità di un modello frontier, ma i limiti di memoria del telefono bloccano l'addestramento locale. Un nuovo metodo ottiene un LLM specializzato in avanti (senza backpropagation) usando coordinate block-spectral: i dati restano sul dispositivo, e il modello si adatta ai task che servono davvero. Un passo verso l'IA personalizzata che non esce mai dal telefono.
Co-Design Bench: 273 task da richieste reali di utenti per valutare gli agenti coding multimodali
5 novembre 2026Nuovo benchmark reference-free: 273 task e 2.331 criteri di accettazione scritti da esperti, estratti da 37.463 query deduplicate su 26.314 sessioni di coding reali; due track (100 task di editing multimodale, 173 di editing su repository) e protocollo judge-then-refute che valuta l'applicazione in esecuzione con evidenza browser.
Mistral Large 4: un MoE da 1 trilione di parametri, 49B attivi, in open-weight
5 novembre 2026Mistral pubblica in open-weight il suo modello più grande: 1 trilione di parametri totali, ~49B attivi per token (52B con embed e output), multimodale nativo, contesto fino a 1M token, licenza Mistral Ecosystem Open-Weight (modificata da MIT; il Model-as-a-Service richiede licenza commerciale a parte).
Gartner: 9 passi agentici su 10 sono routinari e i modelli open-weight li gestiscono a un quinto del costo
5 novembre 2026Secondo il report Gartner « Open-Weight Models Will Run 90% of Enterprise Agentic Workflow Steps », 9 passi su 10 dei flussi agentici aziendali sono routinari: i modelli open-weight li gestiscono a parità di qualità al quarto del prezzo del modello chiuso più economico, e fino a un ventesimo rispetto a un frontier usato su ogni passo. Ipotesi strategica: entro il 2030 il 90% dei passi operativi girerà su open-weight.
Cost-Aware Abstention: su 47.837 ticket IT, un classificatore TF-IDF con soglia batte i LLM sul costo
5 novembre 2026Paper su corpus pubblico di 47.837 ticket e 8 classi: con un modello di costo illustrativo (ok 0, triage umano 1, routing sbagliato 5), TF-IDF con regressione logistica e soglia 0,60 è la policy che minimizza il costo — il modello di costo condiziona la scelta della policy più che la potenza del classificatore.
LiquidAI LFM3-1.7B: un agente edge da 1GB a 4-bit, 256K di contesto e 16 lingue
5 novembre 2026LiquidAI porta il checkpoint post-trained di LFM3 in trending: 1,73B parametri, architettura tri-hybrid, post-training agentico esplicito (harness come Hermes Agent), 256K di contesto, 16 lingue incluso l'italiano, ~1GB di RAM a 4-bit, licenza LFM Open v1.0.
NVIDIA rilascia Cosmos3-Edge-Policy-DROID: una policy da 4B per la robotica on-device
4 novembre 2026Il checkpoint da 4B della famiglia Cosmos3 traduce istruzioni in linguaggio naturale e osservazioni visive del robot DROID in traiettorie di azione. Base del checkpoint edge di NVIDIA: licenza OpenMDW 1.1, uso commerciale e non, rilasciato a luglio 2026.
NVIDIA rilascia Cosmos3-H-Dreams: simulazione chirurgica in tempo reale su una singola GPU
4 novembre 2026Un world model per la robotica chirurgica: partendo da un'inquadratura endoscopica e dalla stream dei comandi dei due bracci, genera il video risultante in streaming su una sola GPU. Derivato da Cosmos3-Nano e fine-tunato su dati clinici della piattaforma Versius; licenza NVIDIA Open Model, uso commerciale incluso.
AutoTavern: agenti LLM auto-miglioranti costruiscono un simulatore di Hearthstone che batte i top player
4 novembre 2026In 20 giorni un sistema di agenti LLM con memoria di ricerca tipizzata e gate di verifica ha costruito un simulatore completo di Hearthstone Battlegrounds e addestrato un agente PPO che media 1,60 di piazzamento nelle ultime 20 partite — davanti ai dieci giocatori più quotati del server — rispondendo a ogni decisione in 0,03 s. Codice open source.
SynthAPI: le scaling laws per gli agenti tool-use con ambienti sintetici controllati
4 novembre 2026Un paper studia come la composizione dei dati sintetici influisca sull'apprendimento degli agenti che usano tool: 458.752 task su 849 modelli in quattro dimensioni. A parità di budget, diversificare tool e database batte l'aumento del numero di task; gli agenti così addestrati superano i baseline su quattro benchmark.
TinyAstral: distillare un insegnante da 180B in agenti da 0,8-4B per la robotica edge
3 novembre 2026Il paper evolve l'harness di un robot-teacher da ~180B — dal 33,4% al 63,6% su RoboTwin — e distilla il risultato in studenti da 0,8-4B che girano a un quinto del compute, anche in closed loop su un braccio reale. Codice, pesi e dati rilasciati.
Ropedia W0: un world model egocentrico addestrato su 10.000 ore di esperienza umana
3 novembre 2026World foundation model per la loco-manipulation: impara da 10.000 ore di video egocentrici umani e 3.000 robot, e trasporta le competenze tra corpi — braccia robot, umanoidi, mani destre — con un'interfaccia cinematica condivisa. Risultati al top su cinque benchmark robot.
NVIDIA rilascia Cosmos3-Nano-Sim-Auto: simulazione di guida in tempo reale con 16B di parametri
3 novembre 2026Variante causal-distilled della famiglia Cosmos3: genera in tempo reale video multi-camera (fino a 11 viste) e LiDAR sincronizzati, condizionati da prompt e controlli WSM, per la simulazione closed-loop di guida. 16B di parametri, licenza OpenMDW 1.1, pronta per uso commerciale.
Qwen3.5-4B-3D-Coder: 4,5B di parametri per generare codice 3D, gira in locale
3 novembre 2026Fine-tune comunitario di Qwen3.5-4B addestrato a scrivere codice 3D e Three.js, basato sul dataset 3D-Scenes: pesi GGUF Q4_K_M già disponibili per llama.cpp, Ollama e LM Studio. In tendenza su Hugging Face con 63.000 download al mese e 495 like.
MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, pronto in due cartelle
27 ottobre 2026Comfy-Org pubblica su Hugging Face il ripack di MOSS-Image con i file già pronti: base e SFT in bf16 e int8, LoRA di color-depth ed editing, encoder Qwen3.5 9B e VAE FLUX2. Quasi 2,2 milioni di download in un mese.
NVIDIA rilascia llama-nv-embed-reasoning-3b: embedding con ragionamento da 3,2B
27 ottobre 2026Un modello di embedding bidirezionale da 3,2B derivato da Llama 3.2 3B: incorpora un passo di ragionamento prima di calcolare il vettore, pensato per retrieval e semantic search che girano anche su GPU da 16GB.
Block presenta Dessa, il modello vocale addestrato da zero sulle conversazioni umane
24 ottobre 2026Block presenta Dessa, un modello vocale addestrato da zero su conversazioni umane. L'azienda lo usa già per il supporto telefonico: un caso studio su quanto suona naturale un TTS/STT non fine-tunato su un grande modello esistente.
Intel e AMD uniscono le ottimizzazioni CPU in oneDNN per PyTorch
20 ottobre 2026AMD integra il fork ZenDNN in oneDNN ed entra nel board UXL; Intel porta le estensioni ACE per la moltiplicazione di matrici. oneDNN diventa la libreria x86 di default in PyTorch: un solo percorso software da ottimizzare per l'IA locale su CPU, indipendentemente dal vendor.
OpenMobile-2: agenti mobili (quasi) frontier con ambienti di training aperti
19 ottobre 2026Pubblicato un agente mobile near-frontier con ambienti e ricette di training completamente aperti: MobileGym++ simula 35 app commerciali con workflow cross-app, con reset e verifica controllabili. Rilevante per chi costruisce agenti on-device.
Secret Guard: gateway LLM locale che sostituisce i segreti prima di inviarli al provider
18 ottobre 2026Tool open source (Rust) che fa da gateway locale: sostituisce i segreti in uscita con mock realistici della stessa lunghezza e li ripristina in entrata, così l'LLM non tocca mai un valore reale. Integrazione in una riga.
Moose 0.6: connessioni cloud sicure e Ollama integrato nell'app GNOME
18 ottobre 2026La 0.6 di Moose porta lo storage protetto delle credenziali per i servizi cloud, una modalità Local-Only con Ollama gestito dall'app (scaricamento e rimozione dei modelli), permessi per chat o per provider, un browser per GNOME Files per allegare documenti alle conversazioni e un catalogo di modelli locale ampliato. La 0.6.1 aggiunge Mistral e DeepSeek. Disponibile su Flathub.
llama.cpp b11717: Hadamard per i quantizzati Q1_0 e Q2_0 su NPU Snapdragon
18 ottobre 2026Il build b11717 aggiunge al backend Hexagon (NPU Snapdragon) le operazioni Hadamard MUL_MAT e GET_ROW per i quantizzati Q1_0 e Q2_0, flat e tiled, e riduce i packet count nel quantizzatore q8_1. Contributo Qualcomm: un passo ulteriore verso l'inferenza su NPU mobile per i quantaggi più aggressivi.
LLMspeed: prova quanto sarà veloce il tuo modello locale prima di acquistarlo
18 ottobre 2026LLMspeed è un tool open source (showcase Hacker News) che stima la velocità di inferenza di oltre 250 combinazioni modello/hardware: RTX 3060 a H100, Mac Studio M5 Ultra, CPU-only. Le stime misurate vengono da benchmark della community (r/LocalLLaMA, localscore.ai), le altre sono derivate da configurazioni simili o proiettate dalle specifiche. Utile per decidere l'hardware prima di spendere.
FLUX 3 Image Klein: Black Forest Labs rilascia un modello di immagini da 5,6B in open weights
17 ottobre 2026FLUX 3 Image Klein è un modello da 5,6B open weights per la generazione di testo-in-immagine e l'editing: un solo modello per prompt, editing con riferimento e composizione multi-riferimento, con box di posizionamento nel prompt. Viene in BF16, FP8 e NVFP4 (5,3 GB).
vLLM rilascia la v0.32.0rc3: correzione del NaN nel kernel Mamba2 su sm90
17 ottobre 2026La release candidate v0.32.0rc3 di vLLM corregge il NaN in uscita del kernel chunk-scan di Mamba2 su sm90. Rilevante per chi serve modelli ibridi state-space (Mamba2) su hardware Blackwell: è la build che serve anche i modelli decisionali come JEV-35B.
La Cina propone controlli sull'esportazione di 23 tecnologie IA, pesi e agenti
17 ottobre 2026Il ministero del Commercio cinese propone di aggiungere 40 tecnologie al catalogo di esportazione controllata, 23 delle quali IA: grandi modelli, agenti e cluster di calcolo. L'accesso tramite API, siti web e app è escluso; i modelli open-source già pubblici restano fuori. Consultazione pubblica fino al 15 novembre.
llama.cpp b11716: supporto Q1_0 e Q2_0 sul backend NPU Snapdragon (Hexagon)
17 ottobre 2026Il build b11716 aggiunge al backend Hexagon (NPU Snapdragon) il supporto alle quantizzazioni Q1_0 e Q2_0, estendendo l'inferenza su NPU mobile ai quantaggi più aggressivi. Rilascio pre, 17 ottobre.
Kyutai STT su Apple Silicon con MLX: riconoscimento vocale in streaming
17 ottobre 2026Il modulo KyutaiSTT porta il riconoscimento vocale in streaming di Kyutai su Apple Silicon tramite MLX. Il checkpoint di riferimento è il STT-1B (inglese e francese) quantizzato a 8 bit, con un encoder Mimi causale che produce 32 codici audio ogni 80 ms. Licenza CC-BY-4.0.
sift: riconosce e riassume ogni file con un LLM locale, completamente offline
17 ottobre 2026sift è uno strumento Python a dipendenza zero che rileva il tipo di un file per contenuto (non solo estensione), ne estrae la struttura e chiede a un LLM locale — Ollama, LM Studio o MLX-LM — di classificarlo e riassumerlo. Nulla lascia la macchina; misura i numeri da solo e segnala i file che parlano all'assistente.
WorldMemBench: il benchmark per la memoria dei modelli di generazione video
16 ottobre 2026Nuovo benchmark che misura quanto i modelli di generazione video mantengono una memoria coerente del mondo che generano: contenuto già osservato preservato ed evoluzione coerente nel tempo, oltre a fedeltà visiva e durata.
CLIFT: verifica conforme per l'addestramento di agenti web open-source
16 ottobre 2026Metodo di training e test-time scaling per agenti web: supervisione conforme autoverificata al posto di giudici frontier a ogni passo, con un segnale di apprendimento meno sparso del semplice successo o insuccesso del task.
CALIF: il frontier può prendere il massimo senza risposta sostanziale
15 ottobre 2026Un paper mostra che i benchmark di istruzione verificabile possono dare il punteggio pieno a risposte con poco contenuto reale, e che usare lo stesso criterio come reward nell'addestramento può indurre reward hacking.
DeepMind e Singapore: truffe in chat bloccate con Gemma on-device
15 ottobre 2026Google DeepMind e GovTech Singapore usano modelli Gemma leggeri sul dispositivo per intercettare le truffe nelle chat private, senza inviare dati al cloud.
Ling 3.1 Flash: MoE da 560B con 25B attivi, contesto da 1M di token e licenza MIT
15 ottobre 2026inclusionAI rilascia Ling 3.1 Flash: 560B parametri totali, 25B attivi per token, architettura ibrida MoE, finestra di contesto fino a 1M di token e licenza MIT. A 4 bit entra in 512GB di memoria unificata: è il caso limite dell'articolo di oggi sul Mac Studio M5 Ultra.
Dal garage all'atelier professionale: Raspberry Pi lo racconta in un gioco gratuito
15 ottobre 2026Raspberry Pi lancia un gioco gratuito in cui si fa crescere un garage di bricolaggio fino a un laboratorio maker professionale: la storia dell'azienda fatta di upgrade progressivi.
MLExpert: un modello agente generalista per l'ingegneria del machine learning autonomo
15 ottobre 2026Lavoro che presenta un modello orientato ad agenti per sviluppare e migliorare in autonomia sistemi di machine learning: orchestrazione di esperimenti a lungo orizzonte, nella direzione dell'IA che costruisce l'IA.
Local Model Guide: quali LLM girano sulla tua macchina
15 ottobre 2026Un indice online raccoglie i modelli locali e indica quali girano sulla tua macchina in base a RAM e VRAM disponibili: utile prima di acquistare hardware per l'IA locale.
NVIDIA rilascia MagpieTTS Multilingual 357M: sintesi vocale per 12 lingue in locale
15 ottobre 2026NVIDIA pubblica su Hugging Face MagpieTTS Multilingual, un modello di sintesi vocale compatto da 357M parametri per 12 lingue, tra cui italiano e francese. Architettura encoder-decoder, pensato per esecuzione in locale a bassa latenza.
ProRubric: il reward hacking nel RL basato su griglie si combatte al livello del protocollo
14 ottobre 2026Nel reinforcement learning basato su rubriche, l'aggregazione addittiva dei criteri permette alla politica di compensare un errore decisivo con consigli non richiesti. ProRubric (ByteDance) raggruppa i criteri in dimensioni di protocollo che contano solo se tutti i criteri tengono e nessuna clausola di fallimento scatta: su consultazioni cliniche l'appropriatezza sale di 10,8 punti senza perdita di copertura, con i criteri invariati parola per parola.
ClawLoop: agenti che migliorano da soli senza modello-teacher esterno
14 ottobre 2026ClawLoop (LongCat) forma agenti LLM in sandbox con un ciclo autosostenente in tre fasi — sintesi dei task, addestramento SFT/RL, diagnosi dei rollout — che restituisce feedback alla sintesi dei task successivi, eliminando il modello esterno che normalmente sintetizza task e traiettorie. Con Qwen3.6-27B migliora su SkillsBench, Claw-Eval-Live e ClawGym-Bench; i task raffinati si trasferiscono con guadagni anche a Qwen3.5-4B e 9B.
MiniCPM-V 4.7 35B-A3B: il primo MoE open-source fluido on-device, 13 tok/s con 3GB di RAM
14 ottobre 2026OpenBMB rilascia MiniCPM-V 4.7, variante 35B-A3B: il primo MoE open-source in grado di decodificare in modo fluido su smartphone senza compromessi di qualità — 13+ token/secondo con soli 3GB di memoria su iPhone 17 Pro Max. Il segreto è lo scheduling degli esperti in anticipo (Lookahead Expert Scheduling su llama.cpp-omni) unito a quantizzazione fine per livello e campionamento speculativo. Supporto day-0 per Rockchip, Intel, AMD e Arm; Ollama, llama.cpp, vLLM e SGLang.
autotrust/JEV-35B: modello decisionale da 35B (3B attivi) in NVFP4
14 ottobre 2026Autotrust pubblica JEV-35B, un modello decisionale MoE da 35B parametri (3B attivi) fine-tunato su Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza passare dal frontier.
Kumo-Tabular: modello fondazione per dati tabellari
14 ottobre 2026NVIDIA mette su Hugging Face Kumo-Tabular, un modello fondazione da 500 milioni di parametri per dati tabellari, con supporto OpenMDW 1.1 e checkpoint pronti all'uso: un esempio di IA locale su dati strutturati di business.
ARDY di NVIDIA: moto umanoide interattivo in tempo reale con diffusione autoregressiva
14 ottobre 2026ARDY è un modello di diffusione autoregressiva da 326M di parametri per la generazione di moto umanoide interattivo in tempo reale: prompt testuali online, vincoli cinematici flessibili (traiettorie, keyframe, pose sparse) e sequenze fino a 8 secondi. Il checkpoint Core-RP-20FPS-Horizon40, addestrato su Bones Rigplay 1, è su Hugging Face dal 7 ottobre e ottimizzato per GPU NVIDIA Ampere, Hopper e Blackwell.
ComfyUI v0.40.0: comfy_attention per tutti i modelli, asset API locale e output 3D
14 ottobre 2026La v0.40.0 estende comfy_attention e AttentionTensorContainer al resto dei modelli, porta l'API di export asset direttamente nel server locale e fa uscire da ogni nodo 3D i modelli come output standard. In più: nodo CreateCameraInfo con widget CameraInfoState, metadati video estratti in system_metadata all'ingest e CSP aggiornato per blob: e data:.
Il kernel Linux valuta di eliminare il tag «Assisted-by» per i patch scritti con l'IA
14 ottobre 2026Da quando gli assistenti di IA sono entrati nell'uso quotidiano, i patch del kernel Linux con contributi di IA/LLM dovevano dichiararlo con il tag «Assisted-by:». Con l'uso ormai ubiquo di questi strumenti, gli sviluppatori del kernel valutano di eliminare l'obbligo — la dichiarazione diventa una scelta, non un requisito.
La rilevanza non implica l'applicabilità: attivazione dell'esperienza per agenti GUI personali
13 ottobre 2026Gli agenti GUI personali usano la cronologia per inferire le intenzioni; il paper mostra che l'esperienza rilevante per il task viene quasi tutta 'spesa' all'inizio, e non aiuta a ogni decisione.
T3lescope: ricostruzione generativa ad alta fedeltà delle superfici 3D da immagini
13 ottobre 2026Il paper ricostruisce mesh 3D ad alta fedeltà da immagini multi-view senza ottimizzazione per scena, da oggetti singoli a scene esterne di grandi dimensioni.
Scaling dei dati agentici per l'intelligenza a lungo orizzonte nei terminal
13 ottobre 2026Un nuovo paper Hugging Face mostra come i terminal agent vadano oltre le operazioni locali verso task professionali reali: accumulare prove, regolare la strategia e trasformare risultati intermedi in output finali.
ARCS: text-to-SQL preciso tramite disambiguazione strutturata
13 ottobre 2026Le domande ambigue sono una fonte principale di errori nel text-to-SQL; il paper le affronta con la disambiguazione strutturata, al posto del chiarimento conversazionale costoso.
EpochGo: AutoML multi-agente local-first su Ollama, costi API zero
12 ottobre 2026Un progetto GitHub che esegue workflow AutoML multi-agente interamente su Ollama, senza chiamate API né cloud. Verificato alla fonte primaria; progetto iniziale (segnale HN basso).
VisionWeave: rappresentazioni visive elastiche come capacità nativa dei modelli multimediali
12 ottobre 2026I modelli multimediali pagano un costo elevato codificando ogni immagine in token fissi e densi. VisionWeave propone rappresentazioni visive elastiche: dettaglio fine dove serve, codifica compatta altrove, senza sacrificare la comprensione.
InstantFusion: un'interfaccia latente condivisa per generatori di immagini eterogenei
12 ottobre 2026Nuovo paper su Hugging Face: allineare le rappresentazioni latenti di generatori di immagini con architetture diverse (diffusion e flow matching) è ancora un problema aperto. InstantFusion propone un'interfaccia latente condivisa per rendere i generatori interoperabili.
Myna di Ubuntu, la trascrizione vocale, arriva in tech preview
12 ottobre 2026La trascrizione vocale Myna di Canonical, parte dello sforzo desktop contestuale per Ubuntu 26.10, è ora disponibile in tech preview, anche sulle versioni LTS.
Open WebUI 0.12.0: chiamate vocali in tempo reale
10 ottobre 2026La nuova versione di Open WebUI aggiunge la modalità Realtime per le chiamate vocali: un modello vocale gestisce la conversazione e passa le domande al modello di chat selezionato, che risponde usando il suo storico e i suoi tool. Attivabile dagli amministratori nelle impostazioni audio.
Tutor: un tutor LLM self-hosted che insegna i tuoi libri e documenti
10 ottobre 2026Progetto open source su GitHub: un tutor locale che studia i libri e i documenti che gli dai e ti insegna il contenuto con quiz e domande, usando un LLM locale. Pensato per chi vuole apprendere senza mandare i propri materiali a un cloud.
Linux 7.4: in arrivo il supporto a notebook e handheld gaming
10 ottobre 2026Il merge window del kernel Linux 7.4 accoglie una serie di miglioramenti ai driver delle piattaforme x86 per notebook e handheld gaming: molte schede di sviluppo sono state preparate per la prossima versione del kernel.
KNOD: offload delle reti su GPU direttamente nel kernel Linux
10 ottobre 2026Il progetto open source KNOD fa elaborare i pacchetti di rete alle GPU AMD senza hardware dedicato, con prestazioni elevate e basso consumo. Un aggiornamento dello sviluppo è stato presentato al Linux Plumbers Conference di Praga.
Marformer: prevedere le distribuzioni dei dati mancanti per decidere meglio
9 ottobre 2026Un transformer addestrato a prevedere i marginali condizionali delle variabili mancanti, l'ingrediente chiave per calcolare il rischio bayesiano e il valore di un'osservazione aggiuntiva prima di decidere in condizioni di informazione incompleta.
Un modello di decisione da 11,4 MB con pesi aperti: la System-1 per dispositivi
9 ottobre 2026Su Hugging Face arriva ej, un piccolo modello di decisione calibrato da 11,4 MB con pesi aperti: dato uno stato e delle domande tipizzate, restituisce una distribuzione di probabilità per ciascuna in un solo passaggio, senza decodificare token. Pensato per girare su CPU con picchi di memoria residua di 128 MB.
OnTrack: monitoraggio e intervento in tempo reale sulle traiettorie degli agenti LLM
9 ottobre 2026Un metodo per monitorare e intervenire in tempo reale sulle traiettorie degli agenti LLM, usando un trasporto ottimale strutturale su streaming: evita i costi e la latenza di un agente di salvaguardia a ogni passo, restando proattivo invece di esaminare i log a posteriori.
Memento 3: agenti LLM che imparano regole esplicite per ambienti nuovi
9 ottobre 2026Memento 3, seguito della serie Memento, permette ad agenti LLM con pesi congelati di apprendere in continuo modelli del mondo espliciti in ambienti sconosciuti, usando un quaderno di regole riflessive che si aggiorna man mano arrivano nuove evidenze.
SpaceFlow: generazione 3D controllabile localmente, senza addestramento
9 ottobre 2026Un pipeline training-free per la generazione 3D con controllo locale: ogni primitiva geometrica fa da proxy per una parte dell'oggetto e riceve un proprio controllo indipendente, superando i limiti dei metodi basati su un'unica intensità di controllo globale.
SpatialOPSD: l'intelligenza spaziale che si apprende da sola
9 ottobre 2026Un nuovo paper mostra come un modello multimodale possa interiorizzare la capacità di ragionamento spaziale di un agente che usa strumenti, riducendo il costo di inferenza: il modello impara da tracciamenti verificati delle proprie esecuzioni, senza dipendere da strumenti esterni.
reViT: un singolo blocco transformer, ricorrente, eguaglia un encoder a piena profondità
9 ottobre 2026Un nuovo paper mostra che un blocco Transformer unico, applicato ricorsivamente, eguaglia l'accuratezza di un encoder visivo a piena profondità a parità di FLOPs di inferenza. La chiave è rappresentare gli FFN di ciascuna profondità ricorsiva come combinazione convessa di una piccola banca di expert condivisi, senza distillazione delle feature intermedie.
Boro: NVIDIA porta l'IA locale nello sviluppo del kernel Linux
9 ottobre 2026NVIDIA sviluppa Boro, una CLI in Rust con IA locale per lo sviluppo del kernel Linux: validazione dei patch, build, boot e test, pensata per il backporting. Guidato da Andrea Righi e presentato a LPC 2026, è Apache 2.0 e gira su back-end locali (Claude, OpenCode, Codex) o su server OpenAI-compatibili.
L'IA ricrea in Rust, in open source, Photoshop e Premiere
8 ottobre 2026Il progetto ArtCraft ha pubblicato Photocraft, Filmcraft e Lightcraft: reimplementazioni in Rust di Photoshop, Premiere e Lightroom scritte con l'aiuto di agenti IA, disponibili come binari nativi per Linux, macOS e Windows. Una dimostrazione interessante del potere degli agenti e delle sue implicazioni legali.
Google rilascia ML Drift, motore di inferenza GPU on-device open source
8 ottobre 2026Il team Google AI Edge ha rilasciato ML Drift, un motore di calcolo GPU cross-platform per l'inferenza on-device sotto licenza Apache 2.0. Copre OpenGL ES, OpenCL, Metal e WebGPU, supporta tensori 5D per reti 3D e modelli generativi, ed è il nuovo cuore di accelerazione di LiteRT.
RunningTab: l'interazione diretta con la workspace dei file per agenti IA
8 ottobre 2026Un nuovo paper di Hugging Face propone che gli agenti LLM lavorino direttamente sui file della workspace tramite tab dedicate, senza indicizzazione: l'agente cerca e legge i documenti dal terminale e produce le deliverable a partire da più file in un unico flusso.
L'architettura Jev, già open source un anno fa: modello, dataset e paper completi
7 ottobre 2026Su LocalLLaMA un autore racconta di aver costruito l'architettura alla base dei decision model Jev un anno fa, e di averla resa completamente open source: modello, dataset e paper. Un retroscena che accompagna l'arrivo del formato System One in llama.cpp e l'apertura dell'ecosistema decision model alla comunità.
llama.cpp introduce i decision model con l'endpoint /v1/systemone
7 ottobre 2026Il server di llama.cpp supporta ora i decision model: invii uno stato (testo, JSON o screenshot) e domande tipizzate, e il modello restituisce una probabilità per ogni opzione in un unico passaggio, senza generare testo. Tre tipi di domanda: choice, score e noul. Sei modelli disponibili da 144M (Julia-1) a 27B (OpenJev, Clef): 3-43 ms per domanda su RTX PRO 6000, licenze Apache 2.0 tranne OpenJev (CC BY-NC).
Aleph Alpha rilascia Kolibri: 78B parametri, 1M di contesto, costruito in Europa
7 ottobre 2026Nuovo modello sovrano open weight di Aleph Alpha, addestrato da zero in Germania con 78B parametri (3,46B attivi) e fino a 1M token di contesto. Progettato per ambienti mission critical: ragionamento in più passaggi, estrazione strutturata, RAG e tool calling affidabile, con tedesco e inglese nativi. I pesi sono su Hugging Face, con report tecnico completo.
Ricerca Hugging Face: gli agenti usano raramente i propri giudizi sull'evidenza per decidere quando fermarsi
7 ottobre 2026Uno studio su agenti con strumenti in ambienti di retrieval con fallimenti controllati: quando il tool torna risultati inutili, l'agente lo giudica come tale, ma raramente trasforma quel giudizio in una decisione di stop. La distinzione tra 'giudicare il risultato' e 'agire su quel giudizio' è zero per chi si ferma per scadenza, ed è la misura del gap che divide i modelli di oggi.
Attacca: controllo orientato all'obiettivo per agenti embodied su orizzonti lunghi
7 ottobre 2026Le policy visive per agenti embodied vengono valutate quasi sempre su interazioni isolate, con l'obiettivo già visibile. Attacca affronta il caso reale: sequenze di task interdipendenti in esecuzione continua, dove ogni task parte dallo stato lasciato dal precedente e il target non è necessariamente in scena. Un passo verso agenti che completano obiettivi complessi in un'unica sessione ininterrotta.
GUI-HARVEST: agenti GUI che migliorano da soli evolvendo il proprio harness
7 ottobre 2026L'harness eseguibile attorno a un modello GUI — come vengono assemblati gli osservabili, come si eseguono le azioni, come si verificano e si recupera dai fallimenti — determina gran parte del comportamento dell'agente. GUI-HARVEST lo ottimizza automaticamente a partire dall'evidenza delle esecuzioni, affrontando la riconciliazione tra intenzione del modello ed effetto osservato, la diagnosi dei fallimenti sotto esecuzione variabile e il controllo di terminazione.
Kandinsky 6.0 Video: modelli foundation per video e audio sincronizzati
6 ottobre 2026Kandinsky Lab pubblica il paper di Kandinsky 6.0 Video: una coppia di modelli foundation per la generazione sincronizzata di video e audio, primo paper della giornata su Hugging Face con 8 modelli e 6 Spaces già collegati.
GridCore: un scheduler che fa condividere una GPU a più LLM locali
6 ottobre 2026Uno strumento open source che schedula più LLM locali sullo stesso GPU, evitando che si contendano la VRAM a turno. Utile per chi fa girare più modelli (un assistente, un embedder, un classificatore) sulla stessa scheda e vuole latenze prevedibili.
PaLoRA: adattamento a rango basso a passo modulato per l'apprendimento continuo
6 ottobre 2026Il paper PaLoRA mostra che la restrizione del passo nei metodi LoRA per l'apprendimento continuo dovrebbe crescere con il rango effettivo della conoscenza accumulata, e propone un ritmo adattivo che porta +4% di accuratezza su benchmark a 50 task.
LTX-2.5: video e audio sincronizzati in locale, 22B di parametri e multishot nativo
5 ottobre 2026Lightricks pubblica LTX-2.5, open weights: generazione video con audio sincronizzato a partire da testo, immagine o video, con multi-shot nativo che preserva identità e stile tra le scene, un nuovo decodificatore video a diffusione al posto della fase VAE e un encoder di testo Gemma 4 12B. I pesi sono pensati per l'esecuzione e il fine-tuning su infrastruttura propria.
TalkScribe: dettatura 100% locale su macOS con Whisper e un LLM locale
5 ottobre 2026Un'app macOS nativa trasforma la dettatura in testo con Whisper eseguito sul dispositivo e un passaggio di riscrittura con un LLM locale (Qwen) sulla GPU M-series: nessun byte lascia il computer, nessun account cloud. L'audio passa per Whisper, poi il modello locale ripulisce punteggiatura e formato prima di consegnare il testo all'app target.
Backburner: l'offloading su iPhone per LLM locali più veloci
3 ottobre 2026Su GitHub un progetto sperimentale sposta parte dell'inferenza di un LLM locale sull'iPhone accoppiato, per sfruttare la GPU e la memoria del telefono come acceleratore secondario: un'idea per chi vuole più token al secondo senza cambiare scheda video.
Moose: l'app GNOME per l'IA locale gira su Ollama
3 ottobre 2026Moose è una nuova app nativa GTK4/libadwaita per GNOME, scritta in Rust e in licenza GPLv3, che permette di chiacchierare con i modelli locali via Ollama: gestisce l'installazione di Ollama, la gestione dei modelli e il caricamento di documenti e immagini locali. È su Flathub, con il codice su GitHub, ed è stata annunciata su This Week in GNOME.
Agent Priors: apprendimento per policy guidato da prior dei modelli agenti
2 ottobre 2026Un paper della community Hugging Face esplora come i prior impliciti dei modelli agenti possano guidare l'apprendimento per policy, riducendo il costo della formazione di agenti LLM in domini strutturati.
llama.cpp b11337: la serie di release di ottobre amplia la matrice CPU/edge
2 ottobre 2026llama.cpp b11337 amplia la matrice di backend per CPU ed edge: Snapdragon (Adreno e Hexagon), OpenVINO, SYCL FP16/FP32, CUDA 13, Android e ROCm 10, con correzioni al server. Segna l'ottava release della serie del 2 ottobre.
funcroute: un router che dà occhi e orecchie a un modello LLM solo testo
2 ottobre 2026Un piccolo router open source (v0.4.0) che aggiunge capacità multimodali a un modello LLM che lavora solo sul testo: immagini e audio vengono gestiti a livello di routing, così il modello locale resta quello che c'è già in giro senza doverne cambiare uno.
Intent drift negli agenti LLM: misurarlo e ripararlo
2 ottobre 2026Nuovo paper di ricerca: quando l'utente cambia idea durante una conversazione multi-turno, le parti superate dell'intenzione continuano a influenzare la risposta finale (intent drift). I paper introducono IntentFlux, un benchmark eseguibile che converte task verificabili in dialoghi con cambi di intenzione controllati, e propone metodi per rilevare e riparare il fenomeno.
Sriti Core: un router LLM local-first che cascata da Ollama al cloud
1 ottobre 2026Un proxy di routing open source (Apache 2.0) che fa da cascata per i modelli LLM: parte dal modello locale su Ollama e sale verso il cloud solo quando serve, con caching semantico e tracciamento dell'affidabilità per ogni hop. Un pattern interessante per chi vuole il locale per default.
Bias di scala ordinale nei modelli di decisione JEV-like
1 ottobre 2026Paper di ricerca sui modelli di decisione diretta: JEV 1.13 e tre modelli KEV aperti non usano fedelmente la scala ordinale fornita dall'utente. Su ANLI, JEV assegna il 38,8% di tutte le predizioni all'opzione più alta indipendentemente dal contenuto — più scelte, meno decisioni.
TACO: ottimizzatore ternario che riduce di 174x la memoria per il fine-tuning
1 ottobre 2026I ricercatori dell'University of Central Florida propongono TACO, un ottimizzatore ternario one-sparse per colonna per il fine-tuning degli LLM: mantiene i gradienti di primo ordine riducendo lo stato persistente dell'ottimizzatore da 27,7 GB a 0,16 GB su OPT-13B.
Il modello locale risponde a raffica? La colpa è spesso del chat template
1 ottobre 2026Un articolo ben argomentato spiega perché un modello locale che si blocca, ignora il system prompt o continua a generare oltre la risposta è quasi sempre un problema del chat template o dei metadati token nel file GGUF, non dei pesi: e come correggerli con gguf-surgeon senza ri-quantizzare.
Cloudflare pubblica clef: modello di decisione da 27B, Apache 2.0
1 ottobre 2026Cloudflare rende pubblico clef, un modello da 27B (base Qwen3.8-27B) che trasforma uno stato — testo, JSON, immagini o video — e uno schema di domande tipizzate in decisioni strutturate: una probabilità per ogni opzione in un'unica passata, senza generazione di testo. Compatibile con l'API Jev/SystemOne; disponibile anche la variante più piccola e veloce clef-flash.
vLLM v0.31.0rc3: support per input dummy randomizzati nel Model Runner V2
1 ottobre 2026Il candidato alla release v0.31.0 di vLLM aggiunge il supporto agli input dummy randomizzati nel nuovo Model Runner V2 (PR #58411), un passo verso test e profiling più robusti del nuovo motore di esecuzione.
Da 17 ore di video a una seconda mente: trascrizione locale con Whisper su MLX
30 settembre 2026Un esperimento ben documentato: 67 video di un corso trascritti in locale e offline con whisper-large-v3-turbo ricompilato su MLX per la GPU del Mac — 17 ore di video elaborate in 34 minuti, senza un byte che esca dalla macchina.
Qt 6.12 LTS rilasciato con QML hot reloading
30 settembre 2026Qt 6.12 LTS arriva con il QML hot reloading in forma sperimentale e il nuovo StyleKit: strumenti di sviluppo più rapidi per chi costruisce interfacce desktop e embedded — rilevante anche per le UI locali delle app con IA integrata.
vLLM pubblica proto-v0.4.0: l'evoluzione del motore di inference
30 settembre 2026Il progetto vLLM tagga la versione proto-v0.4.0, la traccia di sviluppo sperimentale che precede i rilasci stabili del motore di inference per modelli linguistici. Un passo in più per chi serve modelli locali in produzione.
Ollama 0.35.0: modelli di decisione in stile Jev con l'endpoint /v1/systemone
30 settembre 2026Con Ollama 0.35 si usano i modelli di decisione basati sull'API Jev di TypeSafe: si invia un testo come stato con un insieme di domande nominate e il modello locale risponde a tutte in un'unica richiesta, con probabilità per ogni opzione e senza generazione di testo libero. Pensato per triage di ticket, routing di modelli e moderazione del contenuto.
WUSH-KV: quantizzazione della KV cache con trasformazioni adattive ai dati
30 settembre 2026Un nuovo metodo, WUSH-KV, riduce la memoria e la banda occupate dalla KV cache per l'inferenza a lungo contesto, quantizzandola a bassa precisione con trasformazioni calibrate sui dati. A 2 bit, l'approccio eguaglia o supera la trasformazione OSCAR su tutti i modelli e i task testati. È il segno che l'ottimizzazione della memoria non riguarda più solo i pesi, ma anche la memoria di contesto.
Ollama 0.35 porta i modelli decisionali: nimble, un modello da 9B per la classificazione
30 settembre 2026Ollama 0.35 aggiunge il supporto ai modelli decisionali: il modello nimble da 9B di Bespoke Labs gira interamente in locale e risponde a domande tipizzate (vero/falso, scala numerica, scelta multipla) con la nuova API systemone.
Magnitude: un motore di inferenza open source che si ottimizza da solo
30 settembre 2026Lanciato su Hacker News (YC S25), Magnitude è un motore di inferenza in Rust che compila e ottimizza i kernel direttamente sull'hardware di destinazione. Sugli modelli open dichiara velocità fino a 2× rispetto a llama.cpp, su Apple Silicon, NVIDIA, AMD e CPU. Verificato sul repository ufficiale.
Jev in the Wild: analisi dei modelli di decisione Jev nel mondo reale
28 settembre 2026Studio CUHK sui modelli di decisione Jev: 2.050 casi d'uso reali analizzati, da triage e routing a moderazione e etichettatura. Il paper mappa il funzionamento, le applicazioni e l'ecosistema dei modelli che rispondono con etichette strutturate invece di testo libero.
BenchLM pubblica la classifica dei migliori LLM locali di settembre: la VRAM decide le fasce
27 settembre 2026La classifica di settembre 2026 ordina i modelli open-weight per fascia di VRAM: GPT-OSS 20B e ZAYA1-8B guidano la fascia 8-16 GB, Qwen3.6-27B (46,49) e Gemma 4 31B (44,84) dominano la fascia 16-24 GB su una singola RTX 4090 in Q4, e i MoE da un trilione di parametri richiedono 8x H100. Utile come riferimento quando si sceglie la dimensione del modello per il proprio hardware.
Qwen3Guard-Stream-0.6B: moderazione di sicurezza in tempo reale per l'IA locale
27 settembre 2026Qwen3Guard-Stream è un modello di moderazione da 0,6B con un classificatore a livello di token per la sorveglianza in tempo reale durante la generazione incrementale. Tre livelli di gravità (sicuro, controverso, non sicuro) e 119 lingue: un componente piccolo e locale per filtrare gli output senza mandarli nel cloud.
A Vilnius, un muro che ascolta: la pipeline LLM locale di un party con IA
27 settembre 2026Un esperimento creativo a Vilnius: un muro con microfoni e altoparlanti alimentato da un pipeline LLM che gira interamente in locale. I partecipanti parlano al muro e ricevono risposte generate su posto — niente cloud, niente server esterni.
DeepSeek pubblica V4.1 Flash: MoE da 552B con 1M di contesto e licenza MIT
26 settembre 2026DeepSeek V4.1 Flash porta l'architettura MoE a un livello nuovo: 552 miliardi di parametri totali, ma solo 8-16 miliardi attivi per token, una finestra di contesto da 1M di token e licenza MIT. Un modello pensato per i servizi in linea, ma utile come riferimento per chi impara a leggere le schede tecniche dei modelli.
AMDXDNA: miglioramenti al driver Linux per gli NPU3 di Ryzen AI 300
26 settembre 2026La serie di 21 patch per il driver open-source AMDXDNA estende il supporto ai NPU3 (Ryzen AI 300): invio dei comandi in modalità kernel, gestione completa del suspend/resume e telemetria, preparando la strada all'uso degli NPU per l'IA locale su Linux.
ComfyUI v0.37.4: patch di stabilità per i workflow di generazione locale
25 settembre 2026ComfyUI raggiunge la v0.37.4, una patch nella serie 0.37.x che segue il supporto nativo a Qwen-Image 2.1 introdotto in v0.37.0. Se usi ComfyUI per la generazione di immagini in locale, è la build consigliata al momento.
Google distribuisce Gemma 4 con licenza Apache 2.0 e contesti fino a 256K
25 settembre 2026Gemma 4, rilasciata a marzo 2026, segna il cambio di licenza della famiglia Google: per la prima volta i pesi sono sotto Apache 2.0. Sono disponibili le taglie E2B, E4B, 26B A4B (MoE) e 31B, con finestre di contesto fino a 256K token e input da testo, immagini e audio. A giugno è arrivato anche il 12B Unified, una taglia ideale per i PC con GPU consumer.
PISA: attenzione a blocchi sparsi con complessità log-lineare
25 settembre 2026Il paper PISA propone una strategia di selezione Top-K a piramide che porta l'attenzione a blocchi sparsi a complessità O(N log N), riducendo il collo di bottiglia quadratico della selezione dei blocchi; kernel Triton per addestramento e inferenza.
Bonsai-2 27B: ragionamento 27B ternario che gira su un laptop
25 settembre 2026Prism ML pubblica Bonsai-2 27B in GGUF: un modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, 5,95 GB e contesto da 262K token, che mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max.
Open WebUI v0.11.4: metadati per i file e ricerca ibrida più veloce sulle grandi basi di conoscenza
24 settembre 2026La release v0.11.4 di Open WebUI, pubblicata lo scorso 21 settembre, porta due miglioramenti diretti al RAG: i metadati dei file caricati viaggiano ora con ogni blocco e arrivano insieme alle fonti recuperate, e la ricerca ibrida gira nativamente nel database (pgvector) invece di caricare l'intera collezione in memoria, rendendo le grandi basi di conoscenza molto più veloci. L'immagine slim scende inoltre a circa 175 MB.
Edge0 pubblica Audio8-ASR-Infinite: trascrizione vocale streaming in tempo reale
24 settembre 2026Nuovo modello open di trascrizione vocale: streaming in tempo reale con latenza contenuta, pensato per dettatura live e sottotitoli. Un passo in più verso l'audio che gira davvero in locale, senza passare per il cloud.
Ollama v0.34.4: output strutturati più veloci e Qwen più rapido su Apple Silicon
23 settembre 2026La release v0.34.4 di Ollama porta gli output strutturati su modelli con thinking in un unico passaggio (più veloci e affidabili), corregge gli errori 'model not found' con librerie locali grandi e accelera l'elaborazione del prompt di Qwen 3.8 su Apple Silicon. Utile aggiornamento se usi Ollama in produzione.
Needle 2: un modello da 14MB che trasforma il testo in azioni sul Raspberry Pi 5
22 settembre 2026Needle 2, di Cactus Compute, è un modello di function calling da soli 14MB che gira sulla CPU del Raspberry Pi 5, senza AI HAT: 'accendi il LED' diventa un'azione in 78 millisecondi. Non è un chatbot: è addestrato per un solo compito, azioni strutturate affidabili on-device. Needle 3 è già disponibile.
Mistral e Mozilla portano IA aperta, privata e multilingue nel browser con Firefox Smart Window
22 settembre 2026Mozilla e Mistral hanno annunciato una partnership che integra l'IA di Mistral — modelli aperti, multilingue e con enfasi sulla privacy — in Firefox Smart Window, il pannello IA del browser. Un segnale in linea con la direzione del nostro articolo di oggi: portare l'IA dentro gli strumenti quotidiani di lavoro, con dati che restano il più possibile sotto controllo dell'utente.
NVIDIA NemotronLabs VoiceChat 11B: conversazione vocale in tempo reale, open e con tool calling
22 settembre 2026NemotronLabs VoiceChat 11B è un modello vocale end-to-end full-duplex: comprensione e generazione audio in un'unica architettura, senza lo stack in cascata ASR→LLM→TTS. È il primo modello full-duplex open a supportare il tool calling mantenendo il flusso naturale: risposte in ~450ms, interruzioni e turni naturali. Il codice è su GitHub.
llama.cpp: rapporto settimanale 7–14 settembre — build b4991, bug di thinking di Gemma 4 corretto e driver Vulkan r615 per la CI
21 settembre 2026Il report settimanale del progetto llama.cpp copre la build corrente b4991 e le attività della settimana: un bug in cui Gemma 4 in modalità thinking produceva output progressivamente corrotti in coda è stato risolto trimmando gli spazi nel chat template; i runner CI Vulkan sono stati aggiornati al driver NVIDIA r615, e il report analizza i problemi più attivi della community.
Qwen pubblica Qwen-Image 2.1: generazione ed editing di immagini open in locale
20 settembre 2026Qwen-Image 2.1 è un modello open-weight da 7B (DiT da 32 layer) che unisce generazione da testo fino a 2048x2048, editing con fino a 10 immagini di riferimento e trasparenza RGBA nativa. Con ~14GB di VRAM in bfloat16 gira su hardware consumer, e ComfyUI lo supporta nativamente: un passo concreto per la produzione di immagini senza cloud.
vLLM rilascia la versione 0.29.0: Model Runner V2 di default e supporto a nuovi modelli
20 settembre 2026Il progetto vLLM ha rilasciato la versione 0.29.0, con 594 commit e 277 contribuenti. La novità principale è Model Runner V2, ora attivo di default per tutti i modelli, con profiling di memoria CUDA per l'autodimensionamento del KV cache. Arrivano anche i supporti a nuovi modelli: Qwen3.8-Flash-Next, Hy4-preview (MoE da 770B con MTP nativo), Granite SWA e checkpoint Kimi K3 in NVFP4.
Qwen lancia Qwen3.8-Omni-Flash: un modello omnimodale con contesto da 1M
19 settembre 2026Il team Qwen di Alibaba ha rilasciato Qwen3.8-Omni-Flash, un modello nativo omnimodale che gestisce testo, immagini, audio e video insieme, con una finestra di contesto da un milione di token. È costruito attorno alle capacità agent: pianifica i task, chiama i tool e produce contenuti audiovisivi finiti. La famiglia Qwen continua a crescere proprio mentre questa guida la analizza per l'uso locale.
Open WebUI v0.11.1: approvazione dei tool, ask_user e streaming più veloce
18 settembre 2026Open WebUI v0.11.1 aggiunge l'approvazione delle chiamate ai tool (un pulsante pausa tra il modello e i suoi tool), una funzione integrata ask_user che permette al modello di fermarsi e farti una domanda a metà risposta, un file browser nel terminale con anteprime dei documenti in loco, e uno streaming incrementale che riduce di circa il 99% il traffico delle risposte. La release completa include oltre novanta aggiunte e più di duecento correzioni.
Ollama v0.34.0: i modelli locali arrivano in ChatGPT Desktop
5 settembre 2026La versione 0.34.0 di Ollama permette di usare i modelli locali direttamente in ChatGPT Desktop su macOS, migliora le prestazioni dell'output strutturato su Apple Silicon e aggiunge ricerca dei tool client e compattazione delle risposte nell'API compatibile OpenAI.
Ollama v0.33.3: Gemma4 supporta immagini e audio su MLX
2 settembre 2026Gemma4 può ora processare immagini e audio sull'engine MLX. In più, i token di prompt in cache vengono riportati correttamente e i parametri di default definiti nei file GGUF sono rispettati.
Ollama v0.33.2: torna la dark mode nell'app e il proxy Claude Desktop non interrompe più le richieste
27 agosto 2026L'app Ollama segue di nuovo l'aspetto di sistema ripristinando la dark mode, l'istanza macOS già aperta non viene più duplicata e il proxy per Claude Desktop non interrompe le richieste in corso quando il catalogo modelli si aggiorna.
Ollama v0.33.1: supporto a Qwen3.8 Flash Next e output strutturato su MLX
26 agosto 2026Nuovo supporto per Qwen3.8 Flash Next sull'engine MLX, output strutturato per mlxrunner e correzione dei timeout della GPU Metal quando si caricano modelli da storage lenti.
Ollama v0.33.0: Claude Desktop può usare modelli locali come gateway
21 agosto 2026La release introduce la configurazione di Claude Desktop con Ollama come provider gateway di terze parti, oltre a miglioramenti significativi alla caching: i restore point del prefill rendono i retry molto più efficienti e risolvono un hang con i client che cancellano i prefill lunghi.
Meta annuncia Llama 4: il nuovo modello open source da 100B parametri
27 luglio 2026Meta ha rilasciato Llama 4, il nuovo modello linguistico open source con 100 miliardi di parametri. Le prestazioni superano GPT-4 su molti benchmark e il modello è ottimizzato per l'esecuzione locale con quantizzazione.
Apple integra l'MLX 0.20 con supporto nativo per i modelli quantizzati
25 luglio 2026Apple ha aggiornato il framework MLX con il supporto nativo per modelli GGUF quantizzati a 4-bit, permettendo di eseguire modelli sempre più grandi sui chip M-series.
Ollama aggiunge nuovi modelli e migliora le prestazioni
24 luglio 2026La release di Ollama introduce il supporto per nuovi modelli open source e un miglioramento misurabile delle prestazioni di inferenza. Consiglio: dopo ogni aggiornamento, riavvia il server e verifica i modelli con `ollama list`.

