Aller au contenu principal
← Retour au glossaire

EAGLE

Techniques

Famille de techniques de décodage spéculatif (paper EAGLE, arXiv:2401.15077) : un petit draft model lit les états cachés du grand modèle et prédit les jetons suivants à partir de là. L'échantillonnage reste lossless, comme le speculative sampling classique. Les checkpoints EAGLE officiels (par exemple Mistral-Medium-3.5-128B-EAGLE) sont servis nativement par vLLM et SGLang.

Articles liés

Ce terme dans d'autres langues

🇮🇹EAGLE
🇬🇧EAGLE