EAGLE

Famiglia di tecniche di decodifica speculativa (dal paper EAGLE, arXiv:2401.15077): un piccolo draft model legge gli stati nascosti del modello grande e predice i token successivi da lì. Il campionamento resta lossless, come lo speculative sampling classico. I checkpoint ufficiali EAGLE (per esempio Mistral-Medium-3.5-128B-EAGLE) sono serviti nativamente da vLLM e SGLang.