QRAE: comprime il contesto degli agenti DeepSearch guardando quali token pesano davvero
RicercaArticoli correlati
QRAE: comprimere il contesto degli agenti DeepSearch per risparmiare token e latenza
QRAE usa l'entropia dell'attenzione del modello per decidere quali frammenti recuperati restano nel contesto: token -45%, latenza -30% e successo in crescita su quattro benchmark.
Turnbook: la memoria locale per gli agenti di coding, senza una chiamata al modello
Ogni conversazione salvata parola per parola in un file SQLite, senza una sola chiamata al modello: la ricerca gira con embedding locali e il recupero costa 3,1k token. 91,8% su LongMemEval, zero token per salvare.
Privacy: cosa gira davvero in rete quando l'IA è locale
I tuoi dati non lasciano la macchina — quasi. Ecco cosa parte davvero in rete con Ollama e LM Studio, e come verificarlo in mezz'ora con tcpdump, Wireshark e mitmproxy.
Ricevi il prossimo punto sull'IA locale
Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.
Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

