Inférence⚡
ML Drift
Moteur d'inférence GPU on-device open source (Apache 2.0) de Google, successeur du délégué GPU de TensorFlow Lite : virtualisation des tenseurs, KV cache stage-aware pour prefill et decode, FP16/INT8/INT4. Backends OpenCL (Android), Metal (Apple), WebGPU via Dawn (navigateur), OpenGL ES 3.1+. S'intègre à LiteRT ; en production sur Chrome, YouTube, Photos et Meet.
IA localeOn-deviceGPUOpen SourceGoogle

