Aller au contenu principal
Retour aux ressources
Inférence🚀

Tokspur

Publié le 10 nov. 2026

Moteur d'inférence open source pour Apple Silicon basé sur Metal : il déclare une décodification jusqu'à trois fois plus rapide que les moteurs classiques sur MacBook et Mac Studio. Projet jeune, sans benchmarks indépendants pour le moment.

Caractéristiques

  • Apple Silicon (Metal)
  • Open source
  • Déclaration : décodification ~3x plus rapide

Tags

Liens utiles

Découvrir Tokspur

Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Tokspur.

Visiter le site

Ressources liées — Inférence

Inférence⚡
llama.cpp
Publié le 15 oct. 2022

Implémentation C++ de LLM pour une inférence efficace sur CPU et GPU grand public.

LLMC++LocalEfficient
Inférence🦙
Ollama
Publié le 27 juil. 2023v0.35.0

Outil open source pour exécuter des LLM en local, simplement.

LLMLocalOpen SourceCLI
Inférence🗣️
Piper TTS
Publié le 1 avr. 2022Piper

Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.

AudioTTSOpen SourceLocale