開始使用內建 AI 技術

Alexandra Klepper

發布日期：2024 年 12 月 12 日，上次更新日期：2025 年 5 月 20 日

透過內建的 AI API，網頁應用程式可以執行 AI 輔助工作，無須部署或管理自己的 AI 模型。

需求條件

我們正努力為這些 API 制定跨瀏覽器的標準。

模型

Prompt API、Summarizer API、Writer API 和 Rewriter API 會下載大型語言模型，以便在桌上型電腦和筆記型電腦上在本機執行。這些 API 無法在行動裝置上運作。使用這些 API 前，請先確認您已瞭解並同意Google 的生成式 AI 使用限制政策。

目前，Summarizer API、Writer API 和 Rewriter API 僅支援文字轉文字模式。Prompt API 具有多模態功能，可供 Early Preview 計畫參與者進行本機原型設計。

硬體

開發人員和使用者在 Chrome 中使用這些 API 運作功能時，必須遵守下列規定。其他瀏覽器的操作規定可能不同。

語言偵測器和翻譯器 API 適用於電腦版 Chrome。這些 API 不適用於行動裝置。在 Chrome 中使用 Prompt API、Summarizer API、Writer API 和 Rewriter API 時，須符合下列條件：

  • 作業系統：Windows 10 或 11；macOS 13 以上版本 (Ventura 和後續版本)；或 Linux。目前 Android 版、iOS 版和 ChromeOS 版 Chrome 尚未支援使用 Gemini Nano 的 API。
  • 儲存空間：包含 Chrome 設定檔的磁碟區至少要有 22 GB 的空間。
  • GPU：視訊記憶體必須超過 4 GB。
  • 網路：無限量數據或不計量的連線。

Gemini Nano 的確切大小可能略有不同。如要查看目前大小，請前往 chrome://on-device-internals 並點選「Model status」(模型狀態)。開啟列出的「檔案路徑」，判斷模型大小。

開始建構

在開發的不同階段，您可以使用多種內建的 AI API。部分功能已在 Chrome 穩定版推出，部分功能則僅供來源試用計畫參與者使用，其他功能則僅供搶先預覽計畫參與者使用。

每個 API 都有專屬的入門和模型下載說明，適用於本機原型設計，以及透過原始碼試用功能在實際工作環境中進行原型設計。

建構 Chrome 擴充功能時，可以使用所有這些 API。

在本機主機上使用 API

所有 API 都可在 Chrome localhost 中使用。

  1. 前往chrome://flags/#prompt-api-for-gemini-nano。
  2. 選取「已啟用」。
  3. 按一下「重新啟動」或重新啟動 Chrome。

如要確認 Gemini Nano 已下載並正常運作，請開啟開發人員工具，然後在控制台中輸入 await LanguageModel.availability();。這應該會傳回 available。

排解 localhost 問題

如果模型無法正常運作，請按照下列步驟操作：

  1. 重新啟動 Chrome。
  2. 前往chrome://components。
  3. 確認有「裝置端模型最佳化指南」。也就是說，Gemini Nano 已經可供使用或正在下載中。
    • 如果沒有列出版本號碼，請按一下「檢查更新」，強制下載更新。
  4. 開啟開發人員工具，然後在控制台中輸入 LanguageModel.availability();。這應該會傳回 available。

如有必要，請等待一段時間，然後重複上述步驟。

標準程序

我們正在為這些 API 制定標準，讓它們能在所有瀏覽器中運作。這表示我們已向網路平台社群提議使用這些 API，並將其移至 W3C Web Incubator Community Group，以進行進一步討論。

我們正在向 W3C、Mozilla 和 WebKit 徵求各項 API 的意見。

如要進一步瞭解各個 API 的這項程序，請參閱相關文件。

參與討論及分享意見

如果您試用內建 AI 功能並有任何意見，歡迎與我們分享。