Aller au contenu principal
← Retour aux actualités

Flide : le moteur d'inférence open source pour les modèles de décision, jusqu'à 9,5x plus rapide

Outils et sorties
OmniJev publie Flide, un moteur d'inférence open source pour les modèles de décision type Jev. La technique est le forking exact de l'état, qui fait partager les calculs entre plusieurs questions en préservant la sémantique des décisions : les tests déclarent jusqu'à 9,5x par rapport à vLLM et SGLang, avec 30+ modèles de décision open source pris en charge (Decision Index 0.4.1).

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.