Google開放Android開發者試用Gemini Nano,該款模型可以在裝置上執行高效語言任務,且同時具備資料隱私、離線運作和成本效益等優勢。開發者可以透過Google提供的開發工具AI Edge SDK,簡單地在應用程式中整合模型,並自訂推理參數應用於多種場景。
隨著人工智慧技術的發展,行動裝置上的智慧功能變得越來越重要,而Google藉由開放Gemini Nano模型,讓開發者在Android應用上也能提供類似Apple Intelligence的智慧化體驗。Gemini Nano早已經被用於多款Google應用程式,諸如Pixel截圖、Talkback和Recorder等,現在開放開發者實驗性存取。
Gemini Nano是Google Gemini模型家族的成員之一,專門針對裝置端任務設計,可提供靈活且高效的智慧功能。Gemini Nano會在裝置端進行推理,也就是所有運算都會在裝置本地完成,不需要連接雲端伺服器,其優點在於敏感資料可以留存在裝置,增強了資料隱私性,其次是Gemini Nano無需網路連線也能提供完整功能,而這提升了使用體驗,此外,每次推理也不會產生額外的費用。
由於裝置端生成式人工智慧模型,在較雲端伺服器運算能力低的裝置上運作,加上模型本身較雲端版本更小更具針對性,因此Gemini Nano模型適合執行更為明確任務,而非像是聊天機器人等開放式用例。
Gemini Nano適用多種應用場景,包括智慧回覆、文本改寫、校對抑或是文件摘要。開發者可以透過AI Edge SDK進行整合,並控制諸如輸出隨機性、Top K和回應最大長度等推理參數,以滿足不同應用需求。
目前開放給開發者測試的是Gemini Nano 2模型,相較前一代,Nano 2在品質上有明顯提升,雖然規模接近前一代的兩倍,但是Google指出,Nano 2在基準測試和實際應用表現都更為出色,能力甚至可媲美更大型的模型。
Google開發了一個稱為AICore的Android系統服務,讓開發者可以簡單在裝置端執行模型,藉由AI Edge SDK與AICore的整合,開發者不需要自己發布執行環境、模型和其他元件,就可以直接執行生成式人工智慧。不過目前Gemini Nano僅支援Pixel 9系列裝置,未來還會擴展至更多設備。
熱門新聞
2024-12-16
2024-12-16
2024-12-17
2024-11-29