Compression de contexte
TechniquesTechnique pour réduire la partie du contexte envoyée au modèle à une étape de raisonnement, en supprimant ou en résumant les portions récupérées ou d'historique que l'étape courante n'utilise pas. Exemples : résumés générés par un autre modèle (ACON, Context-Folding), suppression de token par une politique apprise (LLMLingua-2), ou sélection des chunks selon l'attention du modèle lui-même (QRAE). Sur les agents multi-étapes, elle réduit token et latence sans, quand elle est bien faite, dégrader la qualité.

