Google Play服務中的TensorFlow Lite現已成為Android官方指定機器學習引擎

Google宣布更新Android自定義的機器學習堆疊，這是一組在Android上部署自定義機器學習功能的基本API和服務。

由於裝置上機器學習的各種優點，包括離線可用、更低的延遲、更好的隱私和更低的推論成本，因此比起以伺服器為基礎的機器學習，能夠提供更好的效能。開發人員在Android上建構機器學習應用時，有兩個方法可選，第一種是使用生產就緒，帶有預訓練和最佳化的機器學習模型SDK，當開發者想要有更多的控制，就可以選擇部署自己的自定義機器學習模型和功能。

Google現在更新Google Play服務中的TensorFlow Lite，作為Android官方機器學習推理引擎，Google由於想要取代獨立的TensorFlow Lite，因此在Google I/O 2021大會中，宣布於Google Play服務中推出TensorFlow Lite早期存取預覽。

而從發布到現在，Google Play服務中的TensorFlow Lite，已經透過數萬個應用程式，每月對數十億個用戶提供服務。在上個月，Google在Play服務中發布TensorFlow Lite穩定版，而現在，Google將其預設為Android官方機器學習推論引擎。

在Google Play服務中使用TensorFlow Lite的好處是，可以縮小二進位檔案的容量，並透過自動更新獲得效能改進，同時也更容易與Android自定義機器學習堆疊之後的API和服務更新整合。

另外，TensorFlow Lite Delegates現在也透過Google Play服務發布。在數年前，Google發布的GPU委派和NNAPI委派，讓開發者可以使用GPU、DSP或NPU等特殊硬體，而GPU和NNAPI委派現在則是透過Google Play服務發布。

在不少進階用例，開發人希望可以直接使用自定義委派，因此Google也正與硬體廠商合作，藉由Google Play服務來擴大自定義委派存取。官方提到，因為硬體的差異，要針對最佳化硬體加速配置，在執行時對所有Android使用者，挑選最佳TensorFlow Lite Delegates有其困難。

為了解決這個困難，Google正在建立一個新的API，使應用程式可以在執行時，替TensorFlow Lite模型安全地最佳化硬體配置，目前這個功能正在早期存取階段，開發者需要額外申請才能使用，官方預計會在明年初時公開發布。