Vai al contenuto principale

Notizie

Ultime notizie e aggiornamenti sull'intelligenza artificiale locale

Ordina notizie per:Più recentiPiù vecchie

179 notizie

KIWI: la chiamata GPU→CPU in sub-microsecondo, fino a 2,3x più veloce per l'expert parallel

22 novembre 2026
Ricerca

Il paper KIWI (arXiv) ribalta la gerarchia delle comunicazioni device-initiated: il reverse offload sui thread host, esposto come interfaccia programmabile, batte i backend GPUDirect — fino a 2,3x di latenza in meno sull'expert-parallel MoE su GPU AMD e -29% di tempo per token in vLLM.

WAM-Policy: world action models e distillazione on-policy per la loco-manipolazione di quadrupedi

22 novembre 2026
Ricerca

Il paper WAM-Policy insegna ai quadrupedi senza braccio a camminare su tre zampe mentre manipolano con la quarta, seguendo istruzioni in linguaggio: la distillazione on-policy dai world action models porta la policy a seguire comandi, e il progetto è open-sourced.

spiruxbench: 22 LLM locali sotto esame per trovare il successore del Qwen 3.6 35B

22 novembre 2026
Classifiche

Un benchmark indipendente misura 22 LLM locali (i quant specifici che girano su un PC gaming) con sfide di coding agentico in container isolati — ~10 ore per run completo — e confronta i fine-tune di Qwen 3.6 con i dense alternativi come Qwen 3.8 Flash Next.

Riva-Translate 4B v1.1: la traduzione locale in 12 lingue, distillata da Minitron-8B

20 novembre 2026
Nuovi modelli

NVIDIA pubblica Riva-Translate-4B-Instruct v1.1: un modello di traduzione da 4B parametri (BF16, ~8,4 GB) distillato da Mistral-NeMo-Minitron-8B-Base, con 12 lingue e dialetti e prestazioni paragonabili a EuroLLM-9B-Instruct su FLORES e WMT24.

P-Image-OSS: immagini a 8 megapixel in 8 passi, da 83 a 101 GB di VRAM per girarle in locale

20 novembre 2026
Nuovi modelli

PrunaAI pubblica P-Image-OSS, un modello di generazione e editing di immagini open basato su MiniMax-H3: 8 passi senza CFG, 8 MP in text-to-image, editing con fino a 8 immagini di input e prompt upsampler incluso (Qwen3.5-9B). In bf16 servono ~101 GB di VRAM (83 senza l'upsampler); la variante ComfyUI int8/4-bit gira in 21 GB.

Parakeet TDT 0.6B v2: trascrizione ASR locale, 24 minuti di audio in un solo passaggio

20 novembre 2026
Nuovi modelli

NVIDIA aggiorna Parakeet TDT 0.6B alla versione v2: il modello di trascrizione NeMo (0,6B parametri, inglese) gestisce audio fino a 24 minuti in un solo passaggio e ottiene RTFx 3380 sul leaderboard HF-Open-ASR con batch 128. Una famiglia di ASR compatta pensata per il locale.

CompoundingKernel: l'agente che scrive kernel GPU da zero, primo su tutte le classifiche SOL-ExecBench

20 novembre 2026
Ricerca

Un sistema di agenti auto-miglioranti parte solo dalla specifica PyTorch e scrive kernel GPU per ricerca: l'11 novembre 2026 era primo su tutte e tre le classifiche pubbliche SOL-ExecBench (L1, L2, Quantization) su NVIDIA B200, con tutti i 235 kernel corretti e 4,40x più veloci della baseline.

JunctionBox: Claude Code, Codex e i modelli Ollama su un unico piano di controllo, sul tuo hardware

20 novembre 2026
Strumenti e rilasci

JunctionBox è una piattaforma per orchestrare agenti di coding (Claude Code, Codex, Grok) e modelli Ollama su hardware proprio: memoria condivisa tra agenti, tool use con guardie per i modelli piccoli e modelli locali anche senza GPU — i test del progetto riportano BitNet a ~16 token/s con meno di 2 GB di RAM.

Jeveration: i modelli System One generano immagini in un solo passaggio, 512x512 in 78 ms

19 novembre 2026
Ricerca

I modelli di decisione tipo Jev usano previsioni parallele e veloci: il paper Jeveration mostra che lo stesso paradigma genera immagini di qualità in un unico forward pass, con un checkpoint unico per testo-in-immagine, immagine-in-immagine e predizione densa. Un'immagine 512x512 in 78 ms, fino a 122x più veloce dei modelli unificati esistenti.

Tideway: VRAM e RAM gestite come un unico pool per i MoE in locale

19 novembre 2026
Ricerca

Paper su Hugging Face: TIDEWAY tratta la RAM di sistema e la VRAM della GPU come un unico pool di memoria, con layout adatti alle fasi prefill e decode. Su hardware consumer dichiara 1,97x di velocità end-to-end e 2,40x sul time-to-first-token rispetto al baseline più rapido.

Sashiko 0.9.4: la revisione di codice IA per il kernel Linux valuta ora anche il design della serie

19 novembre 2026
Strumenti e rilasci

Sashiko, il tool di screening IA per i patch del kernel Linux sviluppato da ingegneri Google, arriva alla v0.9.4: con 'sashiko review --design' una pipeline sperimentale in quattro fasi valuta il design complessivo di una serie di patch, oltre alla revisione patch per patch. Supporto first-class anche per e2fsprogs; il tool resta LLM-agnostic.

Weight-Space Programming: il modello progetta i pesi a mano, senza gradiente

18 novembre 2026
Ricerca

Nuovo paper su Hugging Face: tre LLM frontier, con dieci esempi etichettati e un sandbox, scrivono i pesi del modello a mano invece di addestrarli. Liberi di progettare l'architettura, tutti e tre convergono su una tabella sparsa interrogata da una procedura fissa, con punteggi test fino al 54,4%.

llama.cpp b12199: build CUDA 13.5 e ROCm 10.0, UTF-8 sanificato nei tool call

18 novembre 2026
Strumenti e rilasci

Pre-release dell'8 novembre con la sanitizzazione dell'UTF-8 invalido negli argomenti PEG dei tool call (#31861), build Linux e Windows con librerie CUDA 13.5, ROCm 10.0, SYCL e Vulkan, zDNN per s390x e build Snapdragon con CPU, Adreno e Hexagon NPU.

WorldFoundry: l'infrastruttura open per inferenza e valutazione dei world model

18 novembre 2026
Ricerca

Paper su Hugging Face che definisce il generative world model (sistema dinamico predittivo con stato persistente e risposte causalmente coerenti) e presenta WorldFoundry, infrastruttura open source per inferenza e valutazione riproducibili: catalogo con 270 voci di modelli, 74 benchmark e 62 metriche registrate.

SenseNova-Loop-9B: l'architettura a loop che porta 32 layer a 56 esecuzioni con 9B di parametri

18 novembre 2026
Nuovi modelli

Il modello multimodale di SenseNova riusa i pesi dei 24 layer centrali due volte (blocco a loop con hyper-connections mHC a due flussi): contesto fino a 512K token e, con pesi 4-bit e KV 8-bit, circa 15 GiB di VRAM per 256K di contesto. GAIA 69,90, Terminal-Bench 2.1 59,55; su AIDABench supera Qwen3.8-27B (65,31 vs 65,01).

Envisioning Agentic Robotics: la roadmap della robotica agentica dopo GPT-6 Astra

17 novembre 2026
Ricerca

I modelli frontier con harness agentici eguagliano o superano le policy specifiche per task in poche settimane: il paper traccia dove va la robotica, con un focus esplicito su safety, valutazione condivisa e il momento in cui il robot deve fermarsi e chiedere.

llama.cpp b12198: log proxy in trace e build per CUDA 13.5, ROCm 10.0 e SYCL

17 novembre 2026
Strumenti e rilasci

Il server di llama.cpp riduce i log proxy per-request al livello trace; pre-release per macOS, Linux (CPU, Vulkan, CUDA 12/13, ROCm, OpenVINO, SYCL), Windows, Android e Snapdragon con NPU. Il ritmo del motore del server locale resta settimanale.

byob: l'agente IA desktop in Rust, senza Electron, per i modelli che già girano in locale

17 novembre 2026
Strumenti e rilasci

byob è un coworker IA nativo per desktop: legge e scrive file, esegue codice e costruisce spreadsheet e app accanto al chat, puntato a qualsiasi endpoint OpenAI-compatibile — llama-server, Ollama, LM Studio, vLLM — o a Claude. Un programma solo per Linux, macOS e Windows, circa 60 MB di download, nessun account.

llama.cpp b12063: device copies per dflash e build CUDA 13.4

17 novembre 2026
Strumenti e rilasci

dflash copia le hidden features tramite device copies; pre-release con CUDA 13.4, ROCm 10.0, OpenVINO e SYCL per Linux, macOS, Windows, Android e Snapdragon. Il passo precedente di b12198 nella serie di rilasci del motore.

Gamer: il modello fondazionale vision-linguazione-azione di miHoYo per i giochi in tempo reale

17 novembre 2026
Ricerca

miHoYo pubblica Gamer, un agente generalist che gioca ai 3D solo tramite screenshot, tastiera e mouse, senza API né stato privilegiato del gioco: oltre 10.000 ore di gameplay per il pre-training e reinforcement learning in tempo reale.

Local Model Finder: lo strumento che scansiona Hugging Face e trova i modelli che stanno nel tuo hardware

14 novembre 2026
Strumenti e rilasci

Uno strumento open che interroga i cataloghi pubblici e restituisce i modelli, con le quant GGUF, che ci stanno nella RAM o VRAM dichiarata: un filtro oggettivo in più prima di scegliere il modello.

Duo v1: il world model full-duplex che percepisce audio e video mentre risponde

14 novembre 2026
Ricerca

inclusionAI pubblica Duo v1, un Reciprocal World Model full-duplex: percepisce in continuazione audio, video e testo e risponde in tempo reale, con conversazioni spontanee, interruzioni e condivisione di oggetti reali. I pesi sono su Hugging Face.

Tokspur: il motore di inferenza open source che promette 3x la velocità su Mac

14 novembre 2026
Strumenti e rilasci

Tokspur è un motore di inferenza open source per Apple Silicon basato su Metal: le dichiarazioni parlano di una decodifica fino a tre volte più veloce dei motori classici su MacBook e Mac Studio. I numeri vanno presi con cautela finché non ci sono benchmark indipendenti.

Cloudflare rende open source Kitesurf, il browser stateless per agenti IA

14 novembre 2026
Agenti AI

Kitesurf, il browser stateless pensato per gli agenti, è ora open source: nessun profilo persistente, una sessione per task, pensato per l'automazione web senza stato condiviso tra le esecuzioni.

Octen-WebGR-4B: un modello da 4B open-weight che ha memorizzato 200 milioni di URL

14 novembre 2026
Nuovi modelli

Octen-WebGR-4B è un modello di web graph retrieval a 4 miliardi di parametri, con pesi aperti e demo live: recupera URL esistenti da query in linguaggio naturale, un'idea nuova per il retrieval di risorse web senza indice vettoriale.

llmtee: il proxy LLM self-hosted che mette i costi degli agenti su un foglio di calcolo

12 novembre 2026
Strumenti e rilasci

llmtee è un proxy LLM self-hosted (binario Go + SQLite) che registra ogni richiesta con token, costo, latenza e tempo al primo token per OpenAI, Anthropic, OpenRouter, Ollama, vLLM e Groq. Include budget giornalieri e mensili per chiave con blocco a 429, dashboard, export CSV e endpoint Prometheus.

AgentBaton: NVIDIA passa i task dal modello potente a quello economico, -66% sui costi

12 novembre 2026
Ricerca

La tecnica AgentBaton (NVIDIA) usa un rilevatore leggero per passare i task da un modello potente a uno economico nei task agentici lunghi. Risparmi medi del 65,9% sui costi API e guadagni di accuratezza fino a 8,8 punti percentuali.

Gemma 4 E2B: il modello multimodale di Google ottimizzato per l’on-device, Apache 2.0

12 novembre 2026
Nuovi modelli

Google rilascia Gemma 4 E2B, la variante compatta (2,3B effettivi) della famiglia multimodale Gemma 4: testo e immagini, contesto da 128K, oltre 140 lingue e licenza Apache 2.0. Pensato per girare su device e hardware consumer.

ComfyUI v0.45.0: prestazioni su Qwen 3.x, input video e due nuovi modelli di immagine

12 novembre 2026
Strumenti e rilasci

ComfyUI pubblica v0.45.0: quarta parte delle ottimizzazioni per Qwen 3.x (pesi lineari paralleli combinati), supporto input video per Qwen 3.x e due nuovi modelli, RelayVSR e WeVisOne-VL, tra i tanti nodi partner della release.

NEO-VLA: la policy vision-azione senza encoder, il modello che guarda il mondo in pixel

12 novembre 2026
Ricerca

NEO-VLA (MMLab, NTU) è un framework vision-language-action senza encoder: le immagini in pixel evolvono insieme al linguaggio attraverso le profondità e un esperto di azioni a flow-matching usa le rappresentazioni di più strati. Le architetture native battono quelle basate su encoder.

PyRUA-DataFarm: l'agente coding sostituisce il teleoperatore, le policy su dati di farm eguagliano la teleoperazione

11 novembre 2026
Ricerca

PyRUA-DataFarm: un agente coding sostituisce il teleoperatore — riceve una richiesta dati e un episodio di calibrazione, ricrea il task in simulazione e lo rende come video fotografico. Su 5 task reali, le policy addestrate solo sui dati della farm eguagliano la teleoperazione (93 vs 84/100); costo medio 21 $ una tantum + 0,80 $ a episodio, 107 $ l'ora di dati a tre viste.

Open WebUI 0.13.0: workspace a schede e tab Desktop/Browser per pilotare computer e web app insieme al modello

11 novembre 2026
Strumenti e rilasci

Open WebUI 0.13.0 porta il workspace a schede (file, terminal, anteprime, chiamate vocali), la tab Desktop per controllare il computer collegato con mouse e tastiera, e la tab Browser per uso del browser e test di web app, in Chrome mode anche in sessione condivisa col modello.

llama.cpp b12122: matmul NVFP4 e GLU fusi in MMQ su CUDA, un solo kernel per il blocco MLP quantizzato

11 novembre 2026
Strumenti e rilasci

llama.cpp b12122 fonde i matmul gate/up NVFP4 e la GLU in MMQ su CUDA: un solo kernel per il blocco MLP quantizzato, con precisione src1 rispettata e scale condivise. Il rilascio include build per CUDA 12 e 13, ROCm, Vulkan, SYCL e Snapdragon.

NVIDIA rilascia Isaac GR00T N1.7: la famiglia di modelli fondazionali per robot umanoidi, 4 varianti fino a 3B pronte per il locale

11 novembre 2026
Nuovi modelli

NVIDIA pubblica Isaac GR00T N1.7, famiglia di modelli fondazionali aperti (4 varianti) per il ragionamento e le abilità di robot umanoidi: input multimodale (linguaggio, immagini, propriocezione), transformer d'azione con flow matching, post-training su Bridge, DROID e LIBERO. Il modello da 3B è pronto per uso commerciale e non commerciale.

Flide: il motore di inferenza open source per i modelli di decisione, fino a 9,5x più veloce

10 novembre 2026
Strumenti e rilasci

OmniJev pubblica Flide, un motore di inferenza open source per i modelli di decisione tipo Jev. La tecnica è il forking esatto dello stato, che fa condividere i calcoli tra più domande preservando la semantica delle decisioni: i test dichiarano fino a 9,5x rispetto a vLLM e SGLang, con 30+ modelli di decisione open source supportati (Decision Index 0.4.1).

llama.cpp v0.9.0: quantizzazione FP8 OCP, KV unificato per multi-sequenza e TTS Chatterbox

10 novembre 2026
Strumenti e rilasci

Il motore di inferenza locale aggiunge la quantizzazione OCP FP8 E4M3 (modalità saturante) e l'operatore flash_attn_ext_rows che rende il KV cache unificato efficiente per l'inferenza multi-sequenza. Nuove architetture (Clover-35B-A3B-Preview, Limite 1B, Metis-1.6 e Mistral Large 4), TTS Chatterbox, Nemotron 3.5 Transcribe in 40 lingue e prefill più veloce per gemma4 E2B/E4B; ggml passa a v0.29.0 con parallelismo di tensori multi-nodo NCCL.

HEELO: i primitive agenti come mattoni riutilizzabili, i task completi triplicano

10 novembre 2026
Ricerca

Agent-Native Primitives equipaggia tool, codice e conoscenza con esperti propri basati su LLM; HEELO compone dinamicamente harness di task da 8 famiglie di primitive. Su 20+ benchmark e 46 task reali, collegare i sistemi agentici esistenti a HEELO fa salire i task completati da 9 a 39 con Claude Code e da 9 a 35 con Codex.

Weight-Space Programming: agenti che modificano i pesi dei modelli, senza addestrare

10 novembre 2026
Ricerca

Un paper valutato su Hugging Face mostra agenti che ispezionano e modificano direttamente i parametri di una rete neurale, in alternativa all'adattamento basato su gradienti: 16 traiettorie di editing su 7 benchmark e due scale di modello. I risultati: trasferimento tra task irregolare, variazioni sostanziali tra ricerche indipendenti e guadagni più limitati sul modello più grande.

llama.cpp v0.8.0: la famiglia LFM3, il realtime OpenAI e la sintesi vocale nel server

9 novembre 2026
Strumenti e rilasci

Il motore di inferenza locale aggiunge la famiglia LFM3 (testo 1,7B, vision 2B, audio 2B, omni 2B con ASR, TTS e voice chat), l'endpoint /v1/realtime compatibile col protocollo OpenAI realtime e un POST /tts dedicato, oltre a nuove architetture e cache ibrida per gli expert MoE in host.

Qwen3.8-2.4T-A95B: 2,4 trilioni di parametri open-weight, 95B attivi

9 novembre 2026
Nuovi modelli

Alibaba pubblica il primo modello della classe Qwen-Max in open-weight: 2,4T di parametri totali con 95B attivi, MoE da 512 expert (10 instradati + 1 condiviso), attenzione ibrida Gated DeltaNet, contesto nativo da 262k token estendibile a 1M.

vLLM v0.33.0rc3: CUDA 13.0, nuovi modelli MoE e decodifica speculativa su AMD

9 novembre 2026
Strumenti e rilasci

927 commit e 389 contributor: vLLM passa a PyTorch 2.14 e Triton 3.8 con CUDA 13.0 unico, ruote ABI-stabili e image AWS EFA. Arrivano Beam-1.0 (501B MoE, 23B attivi) e Flint (40B, 2,5B attivi), e il refiner XPress con la verifica FLy porta 1,04-1,31x di decode su MI355X e B300.

EmbeddingGemma 2: un solo spazio per testo, immagini, video e audio, su hardware consumer

9 novembre 2026
Nuovi modelli

Google DeepMind pubblica l'embedding multimodale da 740M parametri: testo, codice, immagini, video e audio in uno spazio unificato da 768 dimensioni, con 100+ lingue, contesto 8K e vettori Matryoshka che riducono lo storage fino a 6x. Apache 2.0, gira su mobile e laptop.

Ripple-65B-Preview: ricursiveAI pubblica un modello dense da 64,8B in Apache-2.0

7 novembre 2026
Nuovi modelli

RicursiveAI ha pubblicato Ripple-65B-Preview: un modello dense da 64,782,689,360 parametri in Apache-2.0, con checkpoint BF16 da 129,5 GB e quantizzazioni già disponibili. Il modello è salito nella classifica trending di Hugging Face con 337 like; richiede custom_code per l'uso. È un punto di riferimento concreto per chi valuta un grande modello self-hosted a licenza libera.

Graph-MIND (ora turnbook): memoria locale per agenti coding senza una sola chiamata al modello

7 novembre 2026
Strumenti e rilasci

Graph-MIND, ribattezzato turnbook, è una memoria di lungo periodo in locale per gli agenti di codifica: salva e recupera senza una sola chiamata al modello, con ricerca parola per parola. Segnala 91,8% su LongMemEval partendo da 3,1k token per query, ed è condiviso tra Claude Code, Codex, Cursor, Copilot CLI, Gemini CLI e OpenCode. Un'alternativa concreta alle memorie che delegano il recupero al modello.

Narro legge pagine web e libri Kindle ad alta voce con voci IA nel browser

7 novembre 2026
On-device e edge

Narro è un'estensione Chrome che legge pagine web e libri Kindle (lettore online) ad alta voce usando voci sintetiche generate in locale, nel browser: Kokoro-82M, Supertonic 2 (inglese, spagnolo, francese, portoghese, coreano), Piper e Kitten TTS Nano. In modalità locale non serve né account né server; per le voci cloud si inserisce la propria chiave API. Nessuna parola letta lascia la macchina.

NVIDIA rilascia Metatron-v1: una policy humanoidica che gira nel browser, senza server

7 novembre 2026
On-device e edge

Metatron-v1 è la policy di controllo di NVIDIA per il robot umanoide Unitree G1 (29 giunti), pubblicata in open con licenza NVIDIA Open Model License. Il punto di partenza: gira dentro il browser, su ONNX Runtime Web + WebGPU, con la simulazione MuJoCo compilata in WASM. Il modello ONNX pesa 403 MB, il checkpoint PyTorch nativo 459,455,983 byte. Nessun server, nessuna GPU di data center: l'inferenza avviene sul terminale del visitatore.

Qwen3.8-Flash-Next: il MoE da 125B con soli 6B attivi, pensato per l'agentico

6 novembre 2026
Nuovi modelli

Alibaba pubblica Qwen3.8-Flash-Next: 125B di parametri con solo 6B attivati, più 51B di embedding n-gram e 4B di MTP. L'architettura ibrida alterna 48 layer tra Gated DeltaNet e Qwen Sparse Attention (512 esperti, 10 routed + 1 shared), con contesto nativo da 262K token estendibile a 1M. Su DeepSWE 1.1 ottiene 58.7 — il modello è pensato per i carichi agentici che dominano l'uso reale.

QRAE: comprime il contesto degli agenti DeepSearch guardando quali token pesano davvero

6 novembre 2026
Ricerca

I DeepSearch agents accumulano a ogni passo di ricerca un contesto sempre più lungo, ma molte fonti recuperate non contribuiscono alla risposta. QRAE usa l'entropia dell'attenzione rilevante alla query per comprimere quel contesto: un metodo nuovo per ridurre token e latenza negli agenti che cercano in rete più volte.

Nanbeige4.3-33B: MoE da 33B con 4B di RAM, licenza MIT, multilingua con supporto italiano

6 novembre 2026
Nuovi modelli

Nanbeige4.3-33B è un MoE da 33B con 3B di parametri attivi, pensato per dispositivi con poca RAM: quantizzato, ci sta in circa 4 GB e gira con Ollama su laptop, Raspberry Pi o Mac mini, con supporto anche per Ollama Cloud e i client compatibili OpenAI API. Licenza MIT, multilingua — l'italiano è in cima alla lista delle 20+ lingue supportate.

Spark-X2.6-4B: il modello da 4B di Xhtk che gira in locale e passa da 0 a 4,49 su HLE

6 novembre 2026
Nuovi modelli

Xhtk rilascia Spark-X2.6-4B in formato GGUF con licenza MIT: 4B di parametri, 3B attivati, 48 layer ibridi (36 Sparse Attention + 12 Mamba2), KV cache ridotta a 1/3 e supporto contesti da 32K fino a 256K. In un solo ciclo di training il punteggio HLE (Humanity's Last Exam) sale da 0 a 4,49. Per chi vuole un modello leggero che non pesi sulla GPU, è una delle opzioni più complete del momento.

Ollama porta la sintesi vocale locale: 100 volte più veloce del tempo reale su Apple Silicon

6 novembre 2026
On-device e edge

I modelli voice di Ollama leggono ad alta voce in 100-200 millisecondi di latenza usando il Metal di Apple: su una GPU NVIDIA con CUDA la velocità supera anche 100x il tempo reale. Prima di una conversazione si può generare la riga di system prompt in audio, così l'utente non deve aspettare a ogni messaggio. I modelli voice sono compatibili con l'API OpenAI e con i tool esistenti (Open WebUI, OpenCode, Claude Code).

Addestrare un LLM specialistico sul telefono: ottimizzazione solo in avanti con coordinate block-spectral

6 novembre 2026
Ricerca

I task specifici dell'utente non richiedono la capacità di un modello frontier, ma i limiti di memoria del telefono bloccano l'addestramento locale. Un nuovo metodo ottiene un LLM specializzato in avanti (senza backpropagation) usando coordinate block-spectral: i dati restano sul dispositivo, e il modello si adatta ai task che servono davvero. Un passo verso l'IA personalizzata che non esce mai dal telefono.

Co-Design Bench: 273 task da richieste reali di utenti per valutare gli agenti coding multimodali

5 novembre 2026
Classifiche

Nuovo benchmark reference-free: 273 task e 2.331 criteri di accettazione scritti da esperti, estratti da 37.463 query deduplicate su 26.314 sessioni di coding reali; due track (100 task di editing multimodale, 173 di editing su repository) e protocollo judge-then-refute che valuta l'applicazione in esecuzione con evidenza browser.

Mistral Large 4: un MoE da 1 trilione di parametri, 49B attivi, in open-weight

5 novembre 2026
Nuovi modelli

Mistral pubblica in open-weight il suo modello più grande: 1 trilione di parametri totali, ~49B attivi per token (52B con embed e output), multimodale nativo, contesto fino a 1M token, licenza Mistral Ecosystem Open-Weight (modificata da MIT; il Model-as-a-Service richiede licenza commerciale a parte).

Gartner: 9 passi agentici su 10 sono routinari e i modelli open-weight li gestiscono a un quinto del costo

5 novembre 2026
Casi d'uso

Secondo il report Gartner « Open-Weight Models Will Run 90% of Enterprise Agentic Workflow Steps », 9 passi su 10 dei flussi agentici aziendali sono routinari: i modelli open-weight li gestiscono a parità di qualità al quarto del prezzo del modello chiuso più economico, e fino a un ventesimo rispetto a un frontier usato su ogni passo. Ipotesi strategica: entro il 2030 il 90% dei passi operativi girerà su open-weight.

Cost-Aware Abstention: su 47.837 ticket IT, un classificatore TF-IDF con soglia batte i LLM sul costo

5 novembre 2026
Ricerca

Paper su corpus pubblico di 47.837 ticket e 8 classi: con un modello di costo illustrativo (ok 0, triage umano 1, routing sbagliato 5), TF-IDF con regressione logistica e soglia 0,60 è la policy che minimizza il costo — il modello di costo condiziona la scelta della policy più che la potenza del classificatore.

LiquidAI LFM3-1.7B: un agente edge da 1GB a 4-bit, 256K di contesto e 16 lingue

5 novembre 2026
On-device e edge

LiquidAI porta il checkpoint post-trained di LFM3 in trending: 1,73B parametri, architettura tri-hybrid, post-training agentico esplicito (harness come Hermes Agent), 256K di contesto, 16 lingue incluso l'italiano, ~1GB di RAM a 4-bit, licenza LFM Open v1.0.

NVIDIA rilascia Cosmos3-Edge-Policy-DROID: una policy da 4B per la robotica on-device

4 novembre 2026
Nuovi modelli

Il checkpoint da 4B della famiglia Cosmos3 traduce istruzioni in linguaggio naturale e osservazioni visive del robot DROID in traiettorie di azione. Base del checkpoint edge di NVIDIA: licenza OpenMDW 1.1, uso commerciale e non, rilasciato a luglio 2026.

NVIDIA rilascia Cosmos3-H-Dreams: simulazione chirurgica in tempo reale su una singola GPU

4 novembre 2026
Nuovi modelli

Un world model per la robotica chirurgica: partendo da un'inquadratura endoscopica e dalla stream dei comandi dei due bracci, genera il video risultante in streaming su una sola GPU. Derivato da Cosmos3-Nano e fine-tunato su dati clinici della piattaforma Versius; licenza NVIDIA Open Model, uso commerciale incluso.

AutoTavern: agenti LLM auto-miglioranti costruiscono un simulatore di Hearthstone che batte i top player

4 novembre 2026
Agenti AI

In 20 giorni un sistema di agenti LLM con memoria di ricerca tipizzata e gate di verifica ha costruito un simulatore completo di Hearthstone Battlegrounds e addestrato un agente PPO che media 1,60 di piazzamento nelle ultime 20 partite — davanti ai dieci giocatori più quotati del server — rispondendo a ogni decisione in 0,03 s. Codice open source.

SynthAPI: le scaling laws per gli agenti tool-use con ambienti sintetici controllati

4 novembre 2026
Ricerca

Un paper studia come la composizione dei dati sintetici influisca sull'apprendimento degli agenti che usano tool: 458.752 task su 849 modelli in quattro dimensioni. A parità di budget, diversificare tool e database batte l'aumento del numero di task; gli agenti così addestrati superano i baseline su quattro benchmark.

TinyAstral: distillare un insegnante da 180B in agenti da 0,8-4B per la robotica edge

3 novembre 2026
Ricerca

Il paper evolve l'harness di un robot-teacher da ~180B — dal 33,4% al 63,6% su RoboTwin — e distilla il risultato in studenti da 0,8-4B che girano a un quinto del compute, anche in closed loop su un braccio reale. Codice, pesi e dati rilasciati.

Ropedia W0: un world model egocentrico addestrato su 10.000 ore di esperienza umana

3 novembre 2026
Ricerca

World foundation model per la loco-manipulation: impara da 10.000 ore di video egocentrici umani e 3.000 robot, e trasporta le competenze tra corpi — braccia robot, umanoidi, mani destre — con un'interfaccia cinematica condivisa. Risultati al top su cinque benchmark robot.

NVIDIA rilascia Cosmos3-Nano-Sim-Auto: simulazione di guida in tempo reale con 16B di parametri

3 novembre 2026
Nuovi modelli

Variante causal-distilled della famiglia Cosmos3: genera in tempo reale video multi-camera (fino a 11 viste) e LiDAR sincronizzati, condizionati da prompt e controlli WSM, per la simulazione closed-loop di guida. 16B di parametri, licenza OpenMDW 1.1, pronta per uso commerciale.

Qwen3.5-4B-3D-Coder: 4,5B di parametri per generare codice 3D, gira in locale

3 novembre 2026
Nuovi modelli

Fine-tune comunitario di Qwen3.5-4B addestrato a scrivere codice 3D e Three.js, basato sul dataset 3D-Scenes: pesi GGUF Q4_K_M già disponibili per llama.cpp, Ollama e LM Studio. In tendenza su Hugging Face con 63.000 download al mese e 495 like.

MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, pronto in due cartelle

27 ottobre 2026
Nuovi modelli

Comfy-Org pubblica su Hugging Face il ripack di MOSS-Image con i file già pronti: base e SFT in bf16 e int8, LoRA di color-depth ed editing, encoder Qwen3.5 9B e VAE FLUX2. Quasi 2,2 milioni di download in un mese.

NVIDIA rilascia llama-nv-embed-reasoning-3b: embedding con ragionamento da 3,2B

27 ottobre 2026
Nuovi modelli

Un modello di embedding bidirezionale da 3,2B derivato da Llama 3.2 3B: incorpora un passo di ragionamento prima di calcolare il vettore, pensato per retrieval e semantic search che girano anche su GPU da 16GB.

Block presenta Dessa, il modello vocale addestrato da zero sulle conversazioni umane

24 ottobre 2026
Nuovi modelli

Block presenta Dessa, un modello vocale addestrato da zero su conversazioni umane. L'azienda lo usa già per il supporto telefonico: un caso studio su quanto suona naturale un TTS/STT non fine-tunato su un grande modello esistente.

Intel e AMD uniscono le ottimizzazioni CPU in oneDNN per PyTorch

20 ottobre 2026
Hardware e acceleratori

AMD integra il fork ZenDNN in oneDNN ed entra nel board UXL; Intel porta le estensioni ACE per la moltiplicazione di matrici. oneDNN diventa la libreria x86 di default in PyTorch: un solo percorso software da ottimizzare per l'IA locale su CPU, indipendentemente dal vendor.

OpenMobile-2: agenti mobili (quasi) frontier con ambienti di training aperti

19 ottobre 2026
Ricerca

Pubblicato un agente mobile near-frontier con ambienti e ricette di training completamente aperti: MobileGym++ simula 35 app commerciali con workflow cross-app, con reset e verifica controllabili. Rilevante per chi costruisce agenti on-device.

Secret Guard: gateway LLM locale che sostituisce i segreti prima di inviarli al provider

18 ottobre 2026
Strumenti e rilasci

Tool open source (Rust) che fa da gateway locale: sostituisce i segreti in uscita con mock realistici della stessa lunghezza e li ripristina in entrata, così l'LLM non tocca mai un valore reale. Integrazione in una riga.

Moose 0.6: connessioni cloud sicure e Ollama integrato nell'app GNOME

18 ottobre 2026
On-device e edge

La 0.6 di Moose porta lo storage protetto delle credenziali per i servizi cloud, una modalità Local-Only con Ollama gestito dall'app (scaricamento e rimozione dei modelli), permessi per chat o per provider, un browser per GNOME Files per allegare documenti alle conversazioni e un catalogo di modelli locale ampliato. La 0.6.1 aggiunge Mistral e DeepSeek. Disponibile su Flathub.

llama.cpp b11717: Hadamard per i quantizzati Q1_0 e Q2_0 su NPU Snapdragon

18 ottobre 2026
Hardware e acceleratori

Il build b11717 aggiunge al backend Hexagon (NPU Snapdragon) le operazioni Hadamard MUL_MAT e GET_ROW per i quantizzati Q1_0 e Q2_0, flat e tiled, e riduce i packet count nel quantizzatore q8_1. Contributo Qualcomm: un passo ulteriore verso l'inferenza su NPU mobile per i quantaggi più aggressivi.

LLMspeed: prova quanto sarà veloce il tuo modello locale prima di acquistarlo

18 ottobre 2026
Strumenti e rilasci

LLMspeed è un tool open source (showcase Hacker News) che stima la velocità di inferenza di oltre 250 combinazioni modello/hardware: RTX 3060 a H100, Mac Studio M5 Ultra, CPU-only. Le stime misurate vengono da benchmark della community (r/LocalLLaMA, localscore.ai), le altre sono derivate da configurazioni simili o proiettate dalle specifiche. Utile per decidere l'hardware prima di spendere.

FLUX 3 Image Klein: Black Forest Labs rilascia un modello di immagini da 5,6B in open weights

17 ottobre 2026
Nuovi modelli

FLUX 3 Image Klein è un modello da 5,6B open weights per la generazione di testo-in-immagine e l'editing: un solo modello per prompt, editing con riferimento e composizione multi-riferimento, con box di posizionamento nel prompt. Viene in BF16, FP8 e NVFP4 (5,3 GB).

vLLM rilascia la v0.32.0rc3: correzione del NaN nel kernel Mamba2 su sm90

17 ottobre 2026
Strumenti e rilasci

La release candidate v0.32.0rc3 di vLLM corregge il NaN in uscita del kernel chunk-scan di Mamba2 su sm90. Rilevante per chi serve modelli ibridi state-space (Mamba2) su hardware Blackwell: è la build che serve anche i modelli decisionali come JEV-35B.

La Cina propone controlli sull'esportazione di 23 tecnologie IA, pesi e agenti

17 ottobre 2026
Sicurezza

Il ministero del Commercio cinese propone di aggiungere 40 tecnologie al catalogo di esportazione controllata, 23 delle quali IA: grandi modelli, agenti e cluster di calcolo. L'accesso tramite API, siti web e app è escluso; i modelli open-source già pubblici restano fuori. Consultazione pubblica fino al 15 novembre.

llama.cpp b11716: supporto Q1_0 e Q2_0 sul backend NPU Snapdragon (Hexagon)

17 ottobre 2026
Strumenti e rilasci

Il build b11716 aggiunge al backend Hexagon (NPU Snapdragon) il supporto alle quantizzazioni Q1_0 e Q2_0, estendendo l'inferenza su NPU mobile ai quantaggi più aggressivi. Rilascio pre, 17 ottobre.

Kyutai STT su Apple Silicon con MLX: riconoscimento vocale in streaming

17 ottobre 2026
On-device e edge

Il modulo KyutaiSTT porta il riconoscimento vocale in streaming di Kyutai su Apple Silicon tramite MLX. Il checkpoint di riferimento è il STT-1B (inglese e francese) quantizzato a 8 bit, con un encoder Mimi causale che produce 32 codici audio ogni 80 ms. Licenza CC-BY-4.0.

sift: riconosce e riassume ogni file con un LLM locale, completamente offline

17 ottobre 2026
Strumenti e rilasci

sift è uno strumento Python a dipendenza zero che rileva il tipo di un file per contenuto (non solo estensione), ne estrae la struttura e chiede a un LLM locale — Ollama, LM Studio o MLX-LM — di classificarlo e riassumerlo. Nulla lascia la macchina; misura i numeri da solo e segnala i file che parlano all'assistente.

WorldMemBench: il benchmark per la memoria dei modelli di generazione video

16 ottobre 2026
Ricerca

Nuovo benchmark che misura quanto i modelli di generazione video mantengono una memoria coerente del mondo che generano: contenuto già osservato preservato ed evoluzione coerente nel tempo, oltre a fedeltà visiva e durata.

CLIFT: verifica conforme per l'addestramento di agenti web open-source

16 ottobre 2026
Ricerca

Metodo di training e test-time scaling per agenti web: supervisione conforme autoverificata al posto di giudici frontier a ogni passo, con un segnale di apprendimento meno sparso del semplice successo o insuccesso del task.

CALIF: il frontier può prendere il massimo senza risposta sostanziale

15 ottobre 2026
Ricerca

Un paper mostra che i benchmark di istruzione verificabile possono dare il punteggio pieno a risposte con poco contenuto reale, e che usare lo stesso criterio come reward nell'addestramento può indurre reward hacking.

DeepMind e Singapore: truffe in chat bloccate con Gemma on-device

15 ottobre 2026
On-device e edge

Google DeepMind e GovTech Singapore usano modelli Gemma leggeri sul dispositivo per intercettare le truffe nelle chat private, senza inviare dati al cloud.

Ling 3.1 Flash: MoE da 560B con 25B attivi, contesto da 1M di token e licenza MIT

15 ottobre 2026
Nuovi modelli

inclusionAI rilascia Ling 3.1 Flash: 560B parametri totali, 25B attivi per token, architettura ibrida MoE, finestra di contesto fino a 1M di token e licenza MIT. A 4 bit entra in 512GB di memoria unificata: è il caso limite dell'articolo di oggi sul Mac Studio M5 Ultra.

Dal garage all'atelier professionale: Raspberry Pi lo racconta in un gioco gratuito

15 ottobre 2026
Hardware e acceleratori

Raspberry Pi lancia un gioco gratuito in cui si fa crescere un garage di bricolaggio fino a un laboratorio maker professionale: la storia dell'azienda fatta di upgrade progressivi.

MLExpert: un modello agente generalista per l'ingegneria del machine learning autonomo

15 ottobre 2026
Ricerca

Lavoro che presenta un modello orientato ad agenti per sviluppare e migliorare in autonomia sistemi di machine learning: orchestrazione di esperimenti a lungo orizzonte, nella direzione dell'IA che costruisce l'IA.

Local Model Guide: quali LLM girano sulla tua macchina

15 ottobre 2026
Strumenti e rilasci

Un indice online raccoglie i modelli locali e indica quali girano sulla tua macchina in base a RAM e VRAM disponibili: utile prima di acquistare hardware per l'IA locale.

NVIDIA rilascia MagpieTTS Multilingual 357M: sintesi vocale per 12 lingue in locale

15 ottobre 2026
Nuovi modelli

NVIDIA pubblica su Hugging Face MagpieTTS Multilingual, un modello di sintesi vocale compatto da 357M parametri per 12 lingue, tra cui italiano e francese. Architettura encoder-decoder, pensato per esecuzione in locale a bassa latenza.

ProRubric: il reward hacking nel RL basato su griglie si combatte al livello del protocollo

14 ottobre 2026
Ricerca

Nel reinforcement learning basato su rubriche, l'aggregazione addittiva dei criteri permette alla politica di compensare un errore decisivo con consigli non richiesti. ProRubric (ByteDance) raggruppa i criteri in dimensioni di protocollo che contano solo se tutti i criteri tengono e nessuna clausola di fallimento scatta: su consultazioni cliniche l'appropriatezza sale di 10,8 punti senza perdita di copertura, con i criteri invariati parola per parola.

ClawLoop: agenti che migliorano da soli senza modello-teacher esterno

14 ottobre 2026
Ricerca

ClawLoop (LongCat) forma agenti LLM in sandbox con un ciclo autosostenente in tre fasi — sintesi dei task, addestramento SFT/RL, diagnosi dei rollout — che restituisce feedback alla sintesi dei task successivi, eliminando il modello esterno che normalmente sintetizza task e traiettorie. Con Qwen3.6-27B migliora su SkillsBench, Claw-Eval-Live e ClawGym-Bench; i task raffinati si trasferiscono con guadagni anche a Qwen3.5-4B e 9B.

MiniCPM-V 4.7 35B-A3B: il primo MoE open-source fluido on-device, 13 tok/s con 3GB di RAM

14 ottobre 2026
Nuovi modelli

OpenBMB rilascia MiniCPM-V 4.7, variante 35B-A3B: il primo MoE open-source in grado di decodificare in modo fluido su smartphone senza compromessi di qualità — 13+ token/secondo con soli 3GB di memoria su iPhone 17 Pro Max. Il segreto è lo scheduling degli esperti in anticipo (Lookahead Expert Scheduling su llama.cpp-omni) unito a quantizzazione fine per livello e campionamento speculativo. Supporto day-0 per Rockchip, Intel, AMD e Arm; Ollama, llama.cpp, vLLM e SGLang.

autotrust/JEV-35B: modello decisionale da 35B (3B attivi) in NVFP4

14 ottobre 2026
Nuovi modelli

Autotrust pubblica JEV-35B, un modello decisionale MoE da 35B parametri (3B attivi) fine-tunato su Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza passare dal frontier.

Kumo-Tabular: modello fondazione per dati tabellari

14 ottobre 2026
Nuovi modelli

NVIDIA mette su Hugging Face Kumo-Tabular, un modello fondazione da 500 milioni di parametri per dati tabellari, con supporto OpenMDW 1.1 e checkpoint pronti all'uso: un esempio di IA locale su dati strutturati di business.

ARDY di NVIDIA: moto umanoide interattivo in tempo reale con diffusione autoregressiva

14 ottobre 2026
Nuovi modelli

ARDY è un modello di diffusione autoregressiva da 326M di parametri per la generazione di moto umanoide interattivo in tempo reale: prompt testuali online, vincoli cinematici flessibili (traiettorie, keyframe, pose sparse) e sequenze fino a 8 secondi. Il checkpoint Core-RP-20FPS-Horizon40, addestrato su Bones Rigplay 1, è su Hugging Face dal 7 ottobre e ottimizzato per GPU NVIDIA Ampere, Hopper e Blackwell.

ComfyUI v0.40.0: comfy_attention per tutti i modelli, asset API locale e output 3D

14 ottobre 2026
Strumenti e rilasci

La v0.40.0 estende comfy_attention e AttentionTensorContainer al resto dei modelli, porta l'API di export asset direttamente nel server locale e fa uscire da ogni nodo 3D i modelli come output standard. In più: nodo CreateCameraInfo con widget CameraInfoState, metadati video estratti in system_metadata all'ingest e CSP aggiornato per blob: e data:.

Il kernel Linux valuta di eliminare il tag «Assisted-by» per i patch scritti con l'IA

14 ottobre 2026
Strumenti e rilasci

Da quando gli assistenti di IA sono entrati nell'uso quotidiano, i patch del kernel Linux con contributi di IA/LLM dovevano dichiararlo con il tag «Assisted-by:». Con l'uso ormai ubiquo di questi strumenti, gli sviluppatori del kernel valutano di eliminare l'obbligo — la dichiarazione diventa una scelta, non un requisito.

La rilevanza non implica l'applicabilità: attivazione dell'esperienza per agenti GUI personali

13 ottobre 2026
Agenti AI

Gli agenti GUI personali usano la cronologia per inferire le intenzioni; il paper mostra che l'esperienza rilevante per il task viene quasi tutta 'spesa' all'inizio, e non aiuta a ogni decisione.

T3lescope: ricostruzione generativa ad alta fedeltà delle superfici 3D da immagini

13 ottobre 2026
Ricerca

Il paper ricostruisce mesh 3D ad alta fedeltà da immagini multi-view senza ottimizzazione per scena, da oggetti singoli a scene esterne di grandi dimensioni.

Scaling dei dati agentici per l'intelligenza a lungo orizzonte nei terminal

13 ottobre 2026
Agenti AI

Un nuovo paper Hugging Face mostra come i terminal agent vadano oltre le operazioni locali verso task professionali reali: accumulare prove, regolare la strategia e trasformare risultati intermedi in output finali.

ARCS: text-to-SQL preciso tramite disambiguazione strutturata

13 ottobre 2026
Ricerca

Le domande ambigue sono una fonte principale di errori nel text-to-SQL; il paper le affronta con la disambiguazione strutturata, al posto del chiarimento conversazionale costoso.

EpochGo: AutoML multi-agente local-first su Ollama, costi API zero

12 ottobre 2026
Strumenti e rilasci

Un progetto GitHub che esegue workflow AutoML multi-agente interamente su Ollama, senza chiamate API né cloud. Verificato alla fonte primaria; progetto iniziale (segnale HN basso).

VisionWeave: rappresentazioni visive elastiche come capacità nativa dei modelli multimediali

12 ottobre 2026
Ricerca

I modelli multimediali pagano un costo elevato codificando ogni immagine in token fissi e densi. VisionWeave propone rappresentazioni visive elastiche: dettaglio fine dove serve, codifica compatta altrove, senza sacrificare la comprensione.

InstantFusion: un'interfaccia latente condivisa per generatori di immagini eterogenei

12 ottobre 2026
Ricerca

Nuovo paper su Hugging Face: allineare le rappresentazioni latenti di generatori di immagini con architetture diverse (diffusion e flow matching) è ancora un problema aperto. InstantFusion propone un'interfaccia latente condivisa per rendere i generatori interoperabili.

Myna di Ubuntu, la trascrizione vocale, arriva in tech preview

12 ottobre 2026
On-device e edge

La trascrizione vocale Myna di Canonical, parte dello sforzo desktop contestuale per Ubuntu 26.10, è ora disponibile in tech preview, anche sulle versioni LTS.

Open WebUI 0.12.0: chiamate vocali in tempo reale

10 ottobre 2026
Casi d'uso

La nuova versione di Open WebUI aggiunge la modalità Realtime per le chiamate vocali: un modello vocale gestisce la conversazione e passa le domande al modello di chat selezionato, che risponde usando il suo storico e i suoi tool. Attivabile dagli amministratori nelle impostazioni audio.

Tutor: un tutor LLM self-hosted che insegna i tuoi libri e documenti

10 ottobre 2026
On-device e edge

Progetto open source su GitHub: un tutor locale che studia i libri e i documenti che gli dai e ti insegna il contenuto con quiz e domande, usando un LLM locale. Pensato per chi vuole apprendere senza mandare i propri materiali a un cloud.

Linux 7.4: in arrivo il supporto a notebook e handheld gaming

10 ottobre 2026
Hardware e acceleratori

Il merge window del kernel Linux 7.4 accoglie una serie di miglioramenti ai driver delle piattaforme x86 per notebook e handheld gaming: molte schede di sviluppo sono state preparate per la prossima versione del kernel.

KNOD: offload delle reti su GPU direttamente nel kernel Linux

10 ottobre 2026
Hardware e acceleratori

Il progetto open source KNOD fa elaborare i pacchetti di rete alle GPU AMD senza hardware dedicato, con prestazioni elevate e basso consumo. Un aggiornamento dello sviluppo è stato presentato al Linux Plumbers Conference di Praga.

Marformer: prevedere le distribuzioni dei dati mancanti per decidere meglio

9 ottobre 2026
Ricerca

Un transformer addestrato a prevedere i marginali condizionali delle variabili mancanti, l'ingrediente chiave per calcolare il rischio bayesiano e il valore di un'osservazione aggiuntiva prima di decidere in condizioni di informazione incompleta.

Un modello di decisione da 11,4 MB con pesi aperti: la System-1 per dispositivi

9 ottobre 2026
Modelli decisionali

Su Hugging Face arriva ej, un piccolo modello di decisione calibrato da 11,4 MB con pesi aperti: dato uno stato e delle domande tipizzate, restituisce una distribuzione di probabilità per ciascuna in un solo passaggio, senza decodificare token. Pensato per girare su CPU con picchi di memoria residua di 128 MB.

OnTrack: monitoraggio e intervento in tempo reale sulle traiettorie degli agenti LLM

9 ottobre 2026
Agenti AI

Un metodo per monitorare e intervenire in tempo reale sulle traiettorie degli agenti LLM, usando un trasporto ottimale strutturale su streaming: evita i costi e la latenza di un agente di salvaguardia a ogni passo, restando proattivo invece di esaminare i log a posteriori.

Memento 3: agenti LLM che imparano regole esplicite per ambienti nuovi

9 ottobre 2026
Agenti AI

Memento 3, seguito della serie Memento, permette ad agenti LLM con pesi congelati di apprendere in continuo modelli del mondo espliciti in ambienti sconosciuti, usando un quaderno di regole riflessive che si aggiorna man mano arrivano nuove evidenze.

SpaceFlow: generazione 3D controllabile localmente, senza addestramento

9 ottobre 2026
Ricerca

Un pipeline training-free per la generazione 3D con controllo locale: ogni primitiva geometrica fa da proxy per una parte dell'oggetto e riceve un proprio controllo indipendente, superando i limiti dei metodi basati su un'unica intensità di controllo globale.

SpatialOPSD: l'intelligenza spaziale che si apprende da sola

9 ottobre 2026
Ricerca

Un nuovo paper mostra come un modello multimodale possa interiorizzare la capacità di ragionamento spaziale di un agente che usa strumenti, riducendo il costo di inferenza: il modello impara da tracciamenti verificati delle proprie esecuzioni, senza dipendere da strumenti esterni.

reViT: un singolo blocco transformer, ricorrente, eguaglia un encoder a piena profondità

9 ottobre 2026
Ricerca

Un nuovo paper mostra che un blocco Transformer unico, applicato ricorsivamente, eguaglia l'accuratezza di un encoder visivo a piena profondità a parità di FLOPs di inferenza. La chiave è rappresentare gli FFN di ciascuna profondità ricorsiva come combinazione convessa di una piccola banca di expert condivisi, senza distillazione delle feature intermedie.

Boro: NVIDIA porta l'IA locale nello sviluppo del kernel Linux

9 ottobre 2026
Hardware e acceleratori

NVIDIA sviluppa Boro, una CLI in Rust con IA locale per lo sviluppo del kernel Linux: validazione dei patch, build, boot e test, pensata per il backporting. Guidato da Andrea Righi e presentato a LPC 2026, è Apache 2.0 e gira su back-end locali (Claude, OpenCode, Codex) o su server OpenAI-compatibili.

L'IA ricrea in Rust, in open source, Photoshop e Premiere

8 ottobre 2026
Casi d'uso

Il progetto ArtCraft ha pubblicato Photocraft, Filmcraft e Lightcraft: reimplementazioni in Rust di Photoshop, Premiere e Lightroom scritte con l'aiuto di agenti IA, disponibili come binari nativi per Linux, macOS e Windows. Una dimostrazione interessante del potere degli agenti e delle sue implicazioni legali.

Google rilascia ML Drift, motore di inferenza GPU on-device open source

8 ottobre 2026
On-device e edge

Il team Google AI Edge ha rilasciato ML Drift, un motore di calcolo GPU cross-platform per l'inferenza on-device sotto licenza Apache 2.0. Copre OpenGL ES, OpenCL, Metal e WebGPU, supporta tensori 5D per reti 3D e modelli generativi, ed è il nuovo cuore di accelerazione di LiteRT.

RunningTab: l'interazione diretta con la workspace dei file per agenti IA

8 ottobre 2026
Casi d'uso

Un nuovo paper di Hugging Face propone che gli agenti LLM lavorino direttamente sui file della workspace tramite tab dedicate, senza indicizzazione: l'agente cerca e legge i documenti dal terminale e produce le deliverable a partire da più file in un unico flusso.

L'architettura Jev, già open source un anno fa: modello, dataset e paper completi

7 ottobre 2026
Modelli decisionali

Su LocalLLaMA un autore racconta di aver costruito l'architettura alla base dei decision model Jev un anno fa, e di averla resa completamente open source: modello, dataset e paper. Un retroscena che accompagna l'arrivo del formato System One in llama.cpp e l'apertura dell'ecosistema decision model alla comunità.

llama.cpp introduce i decision model con l'endpoint /v1/systemone

7 ottobre 2026
Modelli decisionali

Il server di llama.cpp supporta ora i decision model: invii uno stato (testo, JSON o screenshot) e domande tipizzate, e il modello restituisce una probabilità per ogni opzione in un unico passaggio, senza generare testo. Tre tipi di domanda: choice, score e noul. Sei modelli disponibili da 144M (Julia-1) a 27B (OpenJev, Clef): 3-43 ms per domanda su RTX PRO 6000, licenze Apache 2.0 tranne OpenJev (CC BY-NC).

Aleph Alpha rilascia Kolibri: 78B parametri, 1M di contesto, costruito in Europa

7 ottobre 2026
Nuovi modelli

Nuovo modello sovrano open weight di Aleph Alpha, addestrato da zero in Germania con 78B parametri (3,46B attivi) e fino a 1M token di contesto. Progettato per ambienti mission critical: ragionamento in più passaggi, estrazione strutturata, RAG e tool calling affidabile, con tedesco e inglese nativi. I pesi sono su Hugging Face, con report tecnico completo.

Ricerca Hugging Face: gli agenti usano raramente i propri giudizi sull'evidenza per decidere quando fermarsi

7 ottobre 2026
Agenti AI

Uno studio su agenti con strumenti in ambienti di retrieval con fallimenti controllati: quando il tool torna risultati inutili, l'agente lo giudica come tale, ma raramente trasforma quel giudizio in una decisione di stop. La distinzione tra 'giudicare il risultato' e 'agire su quel giudizio' è zero per chi si ferma per scadenza, ed è la misura del gap che divide i modelli di oggi.

Attacca: controllo orientato all'obiettivo per agenti embodied su orizzonti lunghi

7 ottobre 2026
Agenti AI

Le policy visive per agenti embodied vengono valutate quasi sempre su interazioni isolate, con l'obiettivo già visibile. Attacca affronta il caso reale: sequenze di task interdipendenti in esecuzione continua, dove ogni task parte dallo stato lasciato dal precedente e il target non è necessariamente in scena. Un passo verso agenti che completano obiettivi complessi in un'unica sessione ininterrotta.

GUI-HARVEST: agenti GUI che migliorano da soli evolvendo il proprio harness

7 ottobre 2026
Agenti AI

L'harness eseguibile attorno a un modello GUI — come vengono assemblati gli osservabili, come si eseguono le azioni, come si verificano e si recupera dai fallimenti — determina gran parte del comportamento dell'agente. GUI-HARVEST lo ottimizza automaticamente a partire dall'evidenza delle esecuzioni, affrontando la riconciliazione tra intenzione del modello ed effetto osservato, la diagnosi dei fallimenti sotto esecuzione variabile e il controllo di terminazione.

Kandinsky 6.0 Video: modelli foundation per video e audio sincronizzati

6 ottobre 2026
Ricerca

Kandinsky Lab pubblica il paper di Kandinsky 6.0 Video: una coppia di modelli foundation per la generazione sincronizzata di video e audio, primo paper della giornata su Hugging Face con 8 modelli e 6 Spaces già collegati.

GridCore: un scheduler che fa condividere una GPU a più LLM locali

6 ottobre 2026
Strumenti e rilasci

Uno strumento open source che schedula più LLM locali sullo stesso GPU, evitando che si contendano la VRAM a turno. Utile per chi fa girare più modelli (un assistente, un embedder, un classificatore) sulla stessa scheda e vuole latenze prevedibili.

PaLoRA: adattamento a rango basso a passo modulato per l'apprendimento continuo

6 ottobre 2026
Ricerca

Il paper PaLoRA mostra che la restrizione del passo nei metodi LoRA per l'apprendimento continuo dovrebbe crescere con il rango effettivo della conoscenza accumulata, e propone un ritmo adattivo che porta +4% di accuratezza su benchmark a 50 task.

LTX-2.5: video e audio sincronizzati in locale, 22B di parametri e multishot nativo

5 ottobre 2026
Ricerca

Lightricks pubblica LTX-2.5, open weights: generazione video con audio sincronizzato a partire da testo, immagine o video, con multi-shot nativo che preserva identità e stile tra le scene, un nuovo decodificatore video a diffusione al posto della fase VAE e un encoder di testo Gemma 4 12B. I pesi sono pensati per l'esecuzione e il fine-tuning su infrastruttura propria.

TalkScribe: dettatura 100% locale su macOS con Whisper e un LLM locale

5 ottobre 2026
On-device e edge

Un'app macOS nativa trasforma la dettatura in testo con Whisper eseguito sul dispositivo e un passaggio di riscrittura con un LLM locale (Qwen) sulla GPU M-series: nessun byte lascia il computer, nessun account cloud. L'audio passa per Whisper, poi il modello locale ripulisce punteggiatura e formato prima di consegnare il testo all'app target.

Backburner: l'offloading su iPhone per LLM locali più veloci

3 ottobre 2026
On-device e edge

Su GitHub un progetto sperimentale sposta parte dell'inferenza di un LLM locale sull'iPhone accoppiato, per sfruttare la GPU e la memoria del telefono come acceleratore secondario: un'idea per chi vuole più token al secondo senza cambiare scheda video.

Moose: l'app GNOME per l'IA locale gira su Ollama

3 ottobre 2026
Casi d'uso

Moose è una nuova app nativa GTK4/libadwaita per GNOME, scritta in Rust e in licenza GPLv3, che permette di chiacchierare con i modelli locali via Ollama: gestisce l'installazione di Ollama, la gestione dei modelli e il caricamento di documenti e immagini locali. È su Flathub, con il codice su GitHub, ed è stata annunciata su This Week in GNOME.

Agent Priors: apprendimento per policy guidato da prior dei modelli agenti

2 ottobre 2026
Agenti AI

Un paper della community Hugging Face esplora come i prior impliciti dei modelli agenti possano guidare l'apprendimento per policy, riducendo il costo della formazione di agenti LLM in domini strutturati.

llama.cpp b11337: la serie di release di ottobre amplia la matrice CPU/edge

2 ottobre 2026
On-device e edge

llama.cpp b11337 amplia la matrice di backend per CPU ed edge: Snapdragon (Adreno e Hexagon), OpenVINO, SYCL FP16/FP32, CUDA 13, Android e ROCm 10, con correzioni al server. Segna l'ottava release della serie del 2 ottobre.

funcroute: un router che dà occhi e orecchie a un modello LLM solo testo

2 ottobre 2026
Casi d'uso

Un piccolo router open source (v0.4.0) che aggiunge capacità multimodali a un modello LLM che lavora solo sul testo: immagini e audio vengono gestiti a livello di routing, così il modello locale resta quello che c'è già in giro senza doverne cambiare uno.

Intent drift negli agenti LLM: misurarlo e ripararlo

2 ottobre 2026
Agenti AI

Nuovo paper di ricerca: quando l'utente cambia idea durante una conversazione multi-turno, le parti superate dell'intenzione continuano a influenzare la risposta finale (intent drift). I paper introducono IntentFlux, un benchmark eseguibile che converte task verificabili in dialoghi con cambi di intenzione controllati, e propone metodi per rilevare e riparare il fenomeno.

Sriti Core: un router LLM local-first che cascata da Ollama al cloud

1 ottobre 2026
Strumenti e rilasci

Un proxy di routing open source (Apache 2.0) che fa da cascata per i modelli LLM: parte dal modello locale su Ollama e sale verso il cloud solo quando serve, con caching semantico e tracciamento dell'affidabilità per ogni hop. Un pattern interessante per chi vuole il locale per default.

Bias di scala ordinale nei modelli di decisione JEV-like

1 ottobre 2026
Modelli decisionali

Paper di ricerca sui modelli di decisione diretta: JEV 1.13 e tre modelli KEV aperti non usano fedelmente la scala ordinale fornita dall'utente. Su ANLI, JEV assegna il 38,8% di tutte le predizioni all'opzione più alta indipendentemente dal contenuto — più scelte, meno decisioni.

TACO: ottimizzatore ternario che riduce di 174x la memoria per il fine-tuning

1 ottobre 2026
Ricerca

I ricercatori dell'University of Central Florida propongono TACO, un ottimizzatore ternario one-sparse per colonna per il fine-tuning degli LLM: mantiene i gradienti di primo ordine riducendo lo stato persistente dell'ottimizzatore da 27,7 GB a 0,16 GB su OPT-13B.

Il modello locale risponde a raffica? La colpa è spesso del chat template

1 ottobre 2026
Strumenti e rilasci

Un articolo ben argomentato spiega perché un modello locale che si blocca, ignora il system prompt o continua a generare oltre la risposta è quasi sempre un problema del chat template o dei metadati token nel file GGUF, non dei pesi: e come correggerli con gguf-surgeon senza ri-quantizzare.

Cloudflare pubblica clef: modello di decisione da 27B, Apache 2.0

1 ottobre 2026
Modelli decisionali

Cloudflare rende pubblico clef, un modello da 27B (base Qwen3.8-27B) che trasforma uno stato — testo, JSON, immagini o video — e uno schema di domande tipizzate in decisioni strutturate: una probabilità per ogni opzione in un'unica passata, senza generazione di testo. Compatibile con l'API Jev/SystemOne; disponibile anche la variante più piccola e veloce clef-flash.

vLLM v0.31.0rc3: support per input dummy randomizzati nel Model Runner V2

1 ottobre 2026
Hardware e acceleratori

Il candidato alla release v0.31.0 di vLLM aggiunge il supporto agli input dummy randomizzati nel nuovo Model Runner V2 (PR #58411), un passo verso test e profiling più robusti del nuovo motore di esecuzione.

Da 17 ore di video a una seconda mente: trascrizione locale con Whisper su MLX

30 settembre 2026
On-device e edge

Un esperimento ben documentato: 67 video di un corso trascritti in locale e offline con whisper-large-v3-turbo ricompilato su MLX per la GPU del Mac — 17 ore di video elaborate in 34 minuti, senza un byte che esca dalla macchina.

Qt 6.12 LTS rilasciato con QML hot reloading

30 settembre 2026
Strumenti e rilasci

Qt 6.12 LTS arriva con il QML hot reloading in forma sperimentale e il nuovo StyleKit: strumenti di sviluppo più rapidi per chi costruisce interfacce desktop e embedded — rilevante anche per le UI locali delle app con IA integrata.

vLLM pubblica proto-v0.4.0: l'evoluzione del motore di inference

30 settembre 2026
On-device e edge

Il progetto vLLM tagga la versione proto-v0.4.0, la traccia di sviluppo sperimentale che precede i rilasci stabili del motore di inference per modelli linguistici. Un passo in più per chi serve modelli locali in produzione.

Ollama 0.35.0: modelli di decisione in stile Jev con l'endpoint /v1/systemone

30 settembre 2026
Modelli decisionali

Con Ollama 0.35 si usano i modelli di decisione basati sull'API Jev di TypeSafe: si invia un testo come stato con un insieme di domande nominate e il modello locale risponde a tutte in un'unica richiesta, con probabilità per ogni opzione e senza generazione di testo libero. Pensato per triage di ticket, routing di modelli e moderazione del contenuto.

WUSH-KV: quantizzazione della KV cache con trasformazioni adattive ai dati

30 settembre 2026
Ricerca

Un nuovo metodo, WUSH-KV, riduce la memoria e la banda occupate dalla KV cache per l'inferenza a lungo contesto, quantizzandola a bassa precisione con trasformazioni calibrate sui dati. A 2 bit, l'approccio eguaglia o supera la trasformazione OSCAR su tutti i modelli e i task testati. È il segno che l'ottimizzazione della memoria non riguarda più solo i pesi, ma anche la memoria di contesto.

Ollama 0.35 porta i modelli decisionali: nimble, un modello da 9B per la classificazione

30 settembre 2026
Modelli decisionali

Ollama 0.35 aggiunge il supporto ai modelli decisionali: il modello nimble da 9B di Bespoke Labs gira interamente in locale e risponde a domande tipizzate (vero/falso, scala numerica, scelta multipla) con la nuova API systemone.

Magnitude: un motore di inferenza open source che si ottimizza da solo

30 settembre 2026
Strumenti e rilasci

Lanciato su Hacker News (YC S25), Magnitude è un motore di inferenza in Rust che compila e ottimizza i kernel direttamente sull'hardware di destinazione. Sugli modelli open dichiara velocità fino a 2× rispetto a llama.cpp, su Apple Silicon, NVIDIA, AMD e CPU. Verificato sul repository ufficiale.

Jev in the Wild: analisi dei modelli di decisione Jev nel mondo reale

28 settembre 2026
Modelli decisionali

Studio CUHK sui modelli di decisione Jev: 2.050 casi d'uso reali analizzati, da triage e routing a moderazione e etichettatura. Il paper mappa il funzionamento, le applicazioni e l'ecosistema dei modelli che rispondono con etichette strutturate invece di testo libero.

BenchLM pubblica la classifica dei migliori LLM locali di settembre: la VRAM decide le fasce

27 settembre 2026
Classifiche

La classifica di settembre 2026 ordina i modelli open-weight per fascia di VRAM: GPT-OSS 20B e ZAYA1-8B guidano la fascia 8-16 GB, Qwen3.6-27B (46,49) e Gemma 4 31B (44,84) dominano la fascia 16-24 GB su una singola RTX 4090 in Q4, e i MoE da un trilione di parametri richiedono 8x H100. Utile come riferimento quando si sceglie la dimensione del modello per il proprio hardware.

Qwen3Guard-Stream-0.6B: moderazione di sicurezza in tempo reale per l'IA locale

27 settembre 2026
Sicurezza

Qwen3Guard-Stream è un modello di moderazione da 0,6B con un classificatore a livello di token per la sorveglianza in tempo reale durante la generazione incrementale. Tre livelli di gravità (sicuro, controverso, non sicuro) e 119 lingue: un componente piccolo e locale per filtrare gli output senza mandarli nel cloud.

A Vilnius, un muro che ascolta: la pipeline LLM locale di un party con IA

27 settembre 2026
Casi d'uso

Un esperimento creativo a Vilnius: un muro con microfoni e altoparlanti alimentato da un pipeline LLM che gira interamente in locale. I partecipanti parlano al muro e ricevono risposte generate su posto — niente cloud, niente server esterni.

DeepSeek pubblica V4.1 Flash: MoE da 552B con 1M di contesto e licenza MIT

26 settembre 2026
Nuovi modelli

DeepSeek V4.1 Flash porta l'architettura MoE a un livello nuovo: 552 miliardi di parametri totali, ma solo 8-16 miliardi attivi per token, una finestra di contesto da 1M di token e licenza MIT. Un modello pensato per i servizi in linea, ma utile come riferimento per chi impara a leggere le schede tecniche dei modelli.

AMDXDNA: miglioramenti al driver Linux per gli NPU3 di Ryzen AI 300

26 settembre 2026
Hardware e acceleratori

La serie di 21 patch per il driver open-source AMDXDNA estende il supporto ai NPU3 (Ryzen AI 300): invio dei comandi in modalità kernel, gestione completa del suspend/resume e telemetria, preparando la strada all'uso degli NPU per l'IA locale su Linux.

ComfyUI v0.37.4: patch di stabilità per i workflow di generazione locale

25 settembre 2026
Casi d'uso

ComfyUI raggiunge la v0.37.4, una patch nella serie 0.37.x che segue il supporto nativo a Qwen-Image 2.1 introdotto in v0.37.0. Se usi ComfyUI per la generazione di immagini in locale, è la build consigliata al momento.

Google distribuisce Gemma 4 con licenza Apache 2.0 e contesti fino a 256K

25 settembre 2026
Nuovi modelli

Gemma 4, rilasciata a marzo 2026, segna il cambio di licenza della famiglia Google: per la prima volta i pesi sono sotto Apache 2.0. Sono disponibili le taglie E2B, E4B, 26B A4B (MoE) e 31B, con finestre di contesto fino a 256K token e input da testo, immagini e audio. A giugno è arrivato anche il 12B Unified, una taglia ideale per i PC con GPU consumer.

PISA: attenzione a blocchi sparsi con complessità log-lineare

25 settembre 2026
Ricerca

Il paper PISA propone una strategia di selezione Top-K a piramide che porta l'attenzione a blocchi sparsi a complessità O(N log N), riducendo il collo di bottiglia quadratico della selezione dei blocchi; kernel Triton per addestramento e inferenza.

Bonsai-2 27B: ragionamento 27B ternario che gira su un laptop

25 settembre 2026
Nuovi modelli

Prism ML pubblica Bonsai-2 27B in GGUF: un modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, 5,95 GB e contesto da 262K token, che mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max.

Open WebUI v0.11.4: metadati per i file e ricerca ibrida più veloce sulle grandi basi di conoscenza

24 settembre 2026
Casi d'uso

La release v0.11.4 di Open WebUI, pubblicata lo scorso 21 settembre, porta due miglioramenti diretti al RAG: i metadati dei file caricati viaggiano ora con ogni blocco e arrivano insieme alle fonti recuperate, e la ricerca ibrida gira nativamente nel database (pgvector) invece di caricare l'intera collezione in memoria, rendendo le grandi basi di conoscenza molto più veloci. L'immagine slim scende inoltre a circa 175 MB.

Edge0 pubblica Audio8-ASR-Infinite: trascrizione vocale streaming in tempo reale

24 settembre 2026
Nuovi modelli

Nuovo modello open di trascrizione vocale: streaming in tempo reale con latenza contenuta, pensato per dettatura live e sottotitoli. Un passo in più verso l'audio che gira davvero in locale, senza passare per il cloud.

Ollama v0.34.4: output strutturati più veloci e Qwen più rapido su Apple Silicon

23 settembre 2026
On-device e edge

La release v0.34.4 di Ollama porta gli output strutturati su modelli con thinking in un unico passaggio (più veloci e affidabili), corregge gli errori 'model not found' con librerie locali grandi e accelera l'elaborazione del prompt di Qwen 3.8 su Apple Silicon. Utile aggiornamento se usi Ollama in produzione.

Needle 2: un modello da 14MB che trasforma il testo in azioni sul Raspberry Pi 5

22 settembre 2026
On-device e edge

Needle 2, di Cactus Compute, è un modello di function calling da soli 14MB che gira sulla CPU del Raspberry Pi 5, senza AI HAT: 'accendi il LED' diventa un'azione in 78 millisecondi. Non è un chatbot: è addestrato per un solo compito, azioni strutturate affidabili on-device. Needle 3 è già disponibile.

Mistral e Mozilla portano IA aperta, privata e multilingue nel browser con Firefox Smart Window

22 settembre 2026
Casi d'uso

Mozilla e Mistral hanno annunciato una partnership che integra l'IA di Mistral — modelli aperti, multilingue e con enfasi sulla privacy — in Firefox Smart Window, il pannello IA del browser. Un segnale in linea con la direzione del nostro articolo di oggi: portare l'IA dentro gli strumenti quotidiani di lavoro, con dati che restano il più possibile sotto controllo dell'utente.

NVIDIA NemotronLabs VoiceChat 11B: conversazione vocale in tempo reale, open e con tool calling

22 settembre 2026
Hardware e acceleratori

NemotronLabs VoiceChat 11B è un modello vocale end-to-end full-duplex: comprensione e generazione audio in un'unica architettura, senza lo stack in cascata ASR→LLM→TTS. È il primo modello full-duplex open a supportare il tool calling mantenendo il flusso naturale: risposte in ~450ms, interruzioni e turni naturali. Il codice è su GitHub.

llama.cpp: rapporto settimanale 7–14 settembre — build b4991, bug di thinking di Gemma 4 corretto e driver Vulkan r615 per la CI

21 settembre 2026
On-device e edge

Il report settimanale del progetto llama.cpp copre la build corrente b4991 e le attività della settimana: un bug in cui Gemma 4 in modalità thinking produceva output progressivamente corrotti in coda è stato risolto trimmando gli spazi nel chat template; i runner CI Vulkan sono stati aggiornati al driver NVIDIA r615, e il report analizza i problemi più attivi della community.

Qwen pubblica Qwen-Image 2.1: generazione ed editing di immagini open in locale

20 settembre 2026
Nuovi modelli

Qwen-Image 2.1 è un modello open-weight da 7B (DiT da 32 layer) che unisce generazione da testo fino a 2048x2048, editing con fino a 10 immagini di riferimento e trasparenza RGBA nativa. Con ~14GB di VRAM in bfloat16 gira su hardware consumer, e ComfyUI lo supporta nativamente: un passo concreto per la produzione di immagini senza cloud.

vLLM rilascia la versione 0.29.0: Model Runner V2 di default e supporto a nuovi modelli

20 settembre 2026
On-device e edge

Il progetto vLLM ha rilasciato la versione 0.29.0, con 594 commit e 277 contribuenti. La novità principale è Model Runner V2, ora attivo di default per tutti i modelli, con profiling di memoria CUDA per l'autodimensionamento del KV cache. Arrivano anche i supporti a nuovi modelli: Qwen3.8-Flash-Next, Hy4-preview (MoE da 770B con MTP nativo), Granite SWA e checkpoint Kimi K3 in NVFP4.

Qwen lancia Qwen3.8-Omni-Flash: un modello omnimodale con contesto da 1M

19 settembre 2026
Nuovi modelli

Il team Qwen di Alibaba ha rilasciato Qwen3.8-Omni-Flash, un modello nativo omnimodale che gestisce testo, immagini, audio e video insieme, con una finestra di contesto da un milione di token. È costruito attorno alle capacità agent: pianifica i task, chiama i tool e produce contenuti audiovisivi finiti. La famiglia Qwen continua a crescere proprio mentre questa guida la analizza per l'uso locale.

Open WebUI v0.11.1: approvazione dei tool, ask_user e streaming più veloce

18 settembre 2026
Casi d'uso

Open WebUI v0.11.1 aggiunge l'approvazione delle chiamate ai tool (un pulsante pausa tra il modello e i suoi tool), una funzione integrata ask_user che permette al modello di fermarsi e farti una domanda a metà risposta, un file browser nel terminale con anteprime dei documenti in loco, e uno streaming incrementale che riduce di circa il 99% il traffico delle risposte. La release completa include oltre novanta aggiunte e più di duecento correzioni.

Ollama v0.34.0: i modelli locali arrivano in ChatGPT Desktop

5 settembre 2026
Strumenti e rilasci

La versione 0.34.0 di Ollama permette di usare i modelli locali direttamente in ChatGPT Desktop su macOS, migliora le prestazioni dell'output strutturato su Apple Silicon e aggiunge ricerca dei tool client e compattazione delle risposte nell'API compatibile OpenAI.

Ollama v0.33.3: Gemma4 supporta immagini e audio su MLX

2 settembre 2026
On-device e edge

Gemma4 può ora processare immagini e audio sull'engine MLX. In più, i token di prompt in cache vengono riportati correttamente e i parametri di default definiti nei file GGUF sono rispettati.

Ollama v0.33.2: torna la dark mode nell'app e il proxy Claude Desktop non interrompe più le richieste

27 agosto 2026
Strumenti e rilasci

L'app Ollama segue di nuovo l'aspetto di sistema ripristinando la dark mode, l'istanza macOS già aperta non viene più duplicata e il proxy per Claude Desktop non interrompe le richieste in corso quando il catalogo modelli si aggiorna.

Ollama v0.33.1: supporto a Qwen3.8 Flash Next e output strutturato su MLX

26 agosto 2026
On-device e edge

Nuovo supporto per Qwen3.8 Flash Next sull'engine MLX, output strutturato per mlxrunner e correzione dei timeout della GPU Metal quando si caricano modelli da storage lenti.

Ollama v0.33.0: Claude Desktop può usare modelli locali come gateway

21 agosto 2026
Strumenti e rilasci

La release introduce la configurazione di Claude Desktop con Ollama come provider gateway di terze parti, oltre a miglioramenti significativi alla caching: i restore point del prefill rendono i retry molto più efficienti e risolvono un hang con i client che cancellano i prefill lunghi.

Meta annuncia Llama 4: il nuovo modello open source da 100B parametri

27 luglio 2026
Nuovi modelli

Meta ha rilasciato Llama 4, il nuovo modello linguistico open source con 100 miliardi di parametri. Le prestazioni superano GPT-4 su molti benchmark e il modello è ottimizzato per l'esecuzione locale con quantizzazione.

Apple integra l'MLX 0.20 con supporto nativo per i modelli quantizzati

25 luglio 2026
On-device e edge

Apple ha aggiornato il framework MLX con il supporto nativo per modelli GGUF quantizzati a 4-bit, permettendo di eseguire modelli sempre più grandi sui chip M-series.

Ollama aggiunge nuovi modelli e migliora le prestazioni

24 luglio 2026
Strumenti e rilasci

La release di Ollama introduce il supporto per nuovi modelli open source e un miglioramento misurabile delle prestazioni di inferenza. Consiglio: dopo ogni aggiornamento, riavvia il server e verifica i modelli con `ollama list`.