ML Kit 生成式 AI API 總覽

ML Kit 的 GenAI API 運用 Gemini Nano 的強大功能,協助應用程式執行工作。這些 API 提供高階介面,可直接用於熱門用途,ML Kit GenAI API 是以 AICore 為基礎建構而成。AICore 是 Android 系統服務,可讓裝置端執行生成式 AI 基礎模型,以利處理本機資料,進而強化應用程式功能及提升使用者隱私權。

ML Kit GenAI API 支援下列功能:

  • 摘要:以條列式清單的形式摘要文章或即時通訊對話。
  • 校對:修正文法和拼字錯誤,潤飾短內容。
  • 重新撰寫:以不同語氣或風格重新撰寫簡短訊息。
  • 圖片說明:生成指定圖片的簡短說明。

生成式 AI API 的優點

與其他現有的 ML Kit 功能類似,GenAI API 完全在裝置端執行,因此具有下列優點:

  • 輸入、推論和輸出資料會在裝置上處理
  • 即使沒有穩定的網路連線,功能仍與以往相同
  • 每次 API 呼叫都不會產生額外伺服器費用

此外,由於 GenAI API 是以 AICore 為基礎建構,並採用 Gemini Nano 技術,因此每個應用程式都能使用裝置上的共用 Gemini Nano 模型。這樣一來,如果裝置上已有模型,就不必等待模型下載完成,進而節省儲存空間。如要進一步瞭解 AICore 如何隔離要求以保護隱私權,請參閱這篇文章

串流與非串流

ML Kit GenAI API 提供串流和非串流選項,可接收結果。串流 API 會在生成回應時逐步傳送,提供持續的資料流。相較之下,非串流 API 會等到整個回應完成後,再以單一區塊的形式傳回。

如果需要較長的回覆,請選擇串流 API,因為這樣可以更快獲得初步意見回饋。非串流 API 更適合用於簡短的回應,或以批次方式處理結果。

確認裝置支援情形

ML Kit GenAI API 適用於下列裝置,我們也計畫擴大支援範圍:

  • Google:Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL、Pixel 10 Pro Fold、Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
  • Honor:Honor 400 Pro、Magic 6 Pro、Magic 6 RSR、Magic 7、Magic 7 Pro、Magic V3
  • iQOO:iQOO 13
  • Motorola:Razr 60 Ultra
  • OnePlus:OnePlus 13、OnePlus 13s
  • OPPO:Find N5、Find X8、Find X8 Pro
  • POCO:POCO F7 Ultra
  • realme:realme GT 7 Pro
  • Samsung:Galaxy S25、Galaxy S25+、Galaxy S25 Ultra
  • vivo:vivo X200、vivo X200 Pro、vivo X Fold3 Pro、vivo X Fold5
  • 小米:Xiaomi 15 Ultra、Xiaomi 15

特定語言的支援情形可能因裝置設定和已下載至裝置的模型而異。

每個應用程式的配額

AICore 會對每個應用程式強制執行推論配額。也就是說,如果在短時間內發出過多 GenAI API 要求,系統會傳回 ErrorCode.BUSY 回應。收到這類錯誤時,請考慮使用指數輪詢重試要求。

背景使用量

只有在應用程式是頂層前景應用程式時,才能使用 GenAI API 推論。如果應用程式不在前景,使用 API (包括使用前景服務) 會因目前缺少背景使用配額而導致 ErrorCode.BUSY 回應。

程式碼範例

如要取得這段程式碼,請參閱下列範例: