Ressources

Outils, frameworks et modèles pour l'IA locale

Tout Organisations Matériel Logiciel Modèles Inférence Frameworks

Trier par:Nom (A-Z)Nom (Z-A)Catégorie Plus récentes Plus anciennes Prix (croissant)Prix (décroissant)VRAM (la plus élevée)Paramètres (les plus élevés)

3 ressources trouvées pour "ML"

Inférence⚡

ML Drift

Moteur d'inférence GPU on-device open source (Apache 2.0) de Google, successeur du délégué GPU de TensorFlow Lite : virtualisation des tenseurs, KV cache stage-aware pour prefill et decode, FP16/INT8/INT4. Backends OpenCL (Android), Metal (Apple), WebGPU via Dawn (navigateur), OpenGL ES 3.1+. S'intègre à LiteRT ; en production sur Chrome, YouTube, Photos et Meet.

IA localeOn-deviceGPUOpen SourceGoogle

ComparerSite

Inférence🔗

Replicate

Publié le 1 juin 2022

Plateforme API pour exécuter des modèles ML sans gérer d'infrastructure.

APICloudMLServerless

ComparerSite

Inférence🎙️

whisper.cpp

Publié le 1 mars 2023whisper.cpp

Il port C/C++ ad alte prestazioni di Whisper: trascrizione vocale in locale ottimizzata per CPU e Apple Silicon, senza dipendenze da Python. Quantizzazione GGML (Q4_0–Q8_0) con riduzione fino al 65% a disco, streaming via whisper-stream, accelerazione Metal/Vulkan. MIT.

AudioTrascrizioneOpen SourceLocale

ComparerSite