オンデバイスでLLMを実行できる「MediaPipe LLM Inference API」、Googleがリリース

MediaPipe LLM Inference API経由でiOS(左)とAndroid(右)のデバイス上で動作するGemma 2B(提供:Google)