开始使用内置 AI

发布时间:2024 年 12 月 12 日;最后更新时间:2025 年 5 月 20 日

借助内置 AI API,您的 Web 应用可以执行 AI 赋能的任务,而无需部署或管理自己的 AI 模型。

要求

我们正努力在浏览器之间实现这些 API 的标准化

模型

Prompt API、Summarizer API、Writer API 和 Rewriter API 会下载一个大型语言模型,该模型旨在在桌面设备和笔记本电脑上本地运行。这些 API 无法在移动设备上使用。在使用这些 API 之前,请先确认您已了解 Google 的《生成式 AI 使用限制政策》

目前,Summarizer API、Writer API 和 Rewriter API 仅支持文本到文本模态。提示 API 具有多模态功能,可供早期预览版计划参与者进行本地原型设计。

硬件

开发者和在 Chrome 中使用这些 API 运行功能的用户必须满足以下要求。其他浏览器可能有不同的运行要求。

语言检测器和翻译器 API 可在桌面版 Chrome 中使用。这些 API 不适用于移动设备。当满足以下条件时,Prompt API、Summarizer API、Writer API 和 Rewriter API 可在 Chrome 中正常运行:

  • 操作系统:Windows 10 或 11;macOS 13 及更高版本(Ventura 及更高版本);或 Linux。使用 Gemini Nano 的 API 尚不支持 Android 版 Chrome、iOS 版 Chrome 和 ChromeOS 版 Chrome。
  • 存储空间:包含 Chrome 个人资料的卷上至少有 22 GB 的可用空间。
  • GPU:VRAM 严格大于 4 GB。
  • 网络:无限流量或不按流量计费的网络连接。

Gemini Nano 的确切大小可能会略有不同。如需了解当前大小,请访问 chrome://on-device-internals 并前往模型状态。 打开列出的文件路径,以确定模型大小。

开始构建

在不同的开发阶段,有多种内置 AI API 可供使用。有些功能已在 Chrome 稳定版中推出,有些功能仅面向源试用参与者提供,还有些功能仅面向抢先预览计划参与者提供。

每个 API 都有一组自己的说明,用于开始使用并下载模型,以便在本地原型设计和生产环境中进行源试用。

在构建 Chrome 扩展程序时,可以使用所有这些 API。

在 localhost 上使用 API

所有这些 API 都可在 Chrome 中的 localhost 上使用。

  1. 前往chrome://flags/#prompt-api-for-gemini-nano
  2. 选择已启用
  3. 点击重新启动或重启 Chrome。

如需确认 Gemini Nano 已下载并按预期运行,请打开开发者工具,然后在控制台中输入 await LanguageModel.availability();。此时应返回 available

排查 localhost 问题

如果模型无法按预期工作,请按以下步骤操作:

  1. 重新启动 Chrome。
  2. 前往chrome://components
  3. 确认是否存在设备端模型优化指南。这意味着 Gemini Nano 可用或正在下载。
    • 如果未列出任何版本号,请点击检查更新以强制下载。
  4. 打开开发者工具,然后在控制台中输入 LanguageModel.availability();。此命令应返回 available

如有必要,请等待一段时间,然后重复上述步骤。

标准流程

我们正在努力标准化这些 API,以便它们能在所有浏览器中正常运行。这意味着,我们已向 Web 平台社区提议了这些 API,并将其移至 W3C Web Incubator Community Group 以供进一步讨论。

我们正在就每个 API 向 W3C、Mozilla 和 WebKit 征求反馈意见。

如需详细了解每种 API 的此流程,请参阅相应文档。

互动和分享反馈

如果您试用了内置 AI 并有反馈意见,欢迎随时告诉我们。