ML Kit GenAI API 概览

机器学习套件的生成式 AI API 可利用 Gemini Nano 的强大功能来帮助您的应用执行任务。这些 API 通过高级接口为热门使用场景提供开箱即用的优质体验。ML Kit 生成式 AI API 基于 AICore 构建,后者是一项 Android 系统服务,可实现设备端执行生成式 AI 基础模型,从而通过在本地处理数据来增强应用功能并提升用户隐私保护。

ML Kit GenAI API 支持以下功能:

  • 总结:以项目符号列表的形式总结文章或聊天对话。
  • 校对:通过优化语法和修正拼写错误来润色简短内容。
  • 重写:以不同语气或风格重写短消息。
  • 图片说明:生成给定图片的简短说明。

生成式 AI API 的优势

与现有的其他机器学习套件功能类似,GenAI API 完全在设备端运行,因此具有以下优势:

  • 输入、推理和输出数据在本地处理
  • 即使没有可靠的互联网连接,功能也保持不变
  • 每次 API 调用都不会产生额外的服务器费用

此外,由于生成式 AI API 基于 AICore 构建并由 Gemini Nano 提供支持,因此每个应用都能使用设备上的共享 Gemini Nano 模型。这样一来,如果模型已存在于设备上,则无需等待下载,从而节省存储空间。详细了解 AICore 如何隔离请求以保护隐私

流式与非流式

ML Kit GenAI API 提供流式和非流式选项来接收结果。流式 API 会在生成回答时以增量方式提供回答,从而提供持续的数据流。相比之下,非流式传输 API 会等到整个响应完成之后,再以单个块的形式返回。

如果需要生成长篇回答,请选择流式传输 API,因为它可以更快地提供初始反馈。非流式传输 API 更适合用于简短的回答或批量处理结果。

设备支持

ML Kit GenAI API 可在以下设备上使用,并且我们计划将支持范围扩大到更多设备:

  • Google:Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL、Pixel 10 Pro Fold、Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
  • Honor:Honor 400 Pro、Magic 6 Pro、Magic 6 RSR、Magic 7、Magic 7 Pro、Magic V3
  • iQOO:iQOO 13
  • Motorola:Razr 60 Ultra
  • OnePlus:OnePlus 13、OnePlus 13s
  • OPPO:Find N5、Find X8、Find X8 Pro
  • POCO:POCO F7 Ultra
  • realme:realme GT 7 Pro
  • Samsung:Galaxy S25、Galaxy S25+、Galaxy S25 Ultra
  • vivo:vivo X200、vivo X200 Pro、vivo X Fold3 Pro、vivo X Fold5
  • 小米:Xiaomi 15 Ultra、Xiaomi 15

具体语言支持的可用性可能会因特定设备的配置和已下载到设备的模型而异。

每个应用的配额

AICore 会针对每个应用强制执行推理配额。这意味着,如果在短时间内发出过多的 GenAI API 请求,将会收到 ErrorCode.BUSY 响应。收到此类错误时,请考虑使用指数退避算法重试请求。

后台使用情况

仅当应用是最主要的前台应用时,才允许进行 GenAI API 推理。当应用不在前台时使用该 API(包括使用前台服务),由于目前缺少后台使用配额,将导致 ErrorCode.BUSY 响应。

示例代码

如需获取此代码,请查看以下示例: