使用 AlloyDB AI 建構生成式 AI 應用程式

AlloyDB 是與 PostgreSQL 相容的資料庫，因此除了 Google Cloud 環境中的其他服務，還能與 PostgreSQL 支援的工具和架構順暢整合。

AlloyDB AI 提供一系列 AI 和 ML 功能，可協助您建構生成式 AI 應用程式。這些功能可讓您建構應用程式，並提供向量搜尋 (用於語意相似度)、自然語言查詢等功能，以及與 Google、OpenAI 和 Anthropic 等供應商的機器學習模型整合。

為簡化建構 AI 應用程式的程序，AlloyDB 提供下列擴充功能：

• vector 擴充功能：標準 pgvector PostgreSQL 擴充功能已針對 AlloyDB 自訂，並稱為 vector。支援將生成的嵌入內容儲存在向量資料欄中。此外，擴充功能也支援純量量化功能，可建立 IVF 索引。您也可以建立股票pgvector提供的 IVFFlat 指數或 HSNW 指數。

• alloydb_scann 擴充功能：alloydb_scann 擴充功能會實作由 ScaNN 演算法驅動的高效率最鄰近索引。

  您可以在與 PostgreSQL 14 和 15 相容的資料庫中使用 alloydb_scann 擴充功能。

• google_ml_integration 擴充功能：google_ml_integration 擴充功能提供 AI 查詢引擎功能，包括生成嵌入、語意排名，以及實作 AI 輔助篩選器、聯結和文字生成/摘要的函式。這項擴充功能也提供註冊 AI 模型中繼資料的函式。註冊的中繼資料隨後會用於叫用這些模型的預測。

• alloydb_ai_nl 擴充功能：開發人員可透過 alloydb_ai_nl 擴充功能，建構應用程式，準確且安全地回答終端使用者對 AlloyDB 資料庫中資料提出的自然語言問題。這樣一來，不擅長編寫 SQL 的使用者也能存取資料。

這些擴充功能可實現的用途包括：

• 使用 AlloyDB AI 查詢引擎執行智慧型 SQL 查詢：直接在 SQL 查詢中使用 AI。您可以重新排序搜尋結果，提高相關性、在 SQL 查詢中整合自然語言，以及生成多模態嵌入以進行向量搜尋。

• 向量搜尋：使用 AlloyDB 儲存向量嵌入項目，並執行高效率的相似度搜尋。您可以產生由 ScaNN 演算法支援的高效率最鄰近索引。

• 使用模型端點呼叫模型：將 AI 模型註冊為模型端點，並從 AlloyDB 內呼叫端點，以生成嵌入、叫用預測或執行相似度搜尋。

• 生成嵌入和叫用預測：使用 Vertex AI 文字嵌入模型或已註冊的模型端點，生成文字或多模態嵌入。

• 根據自然語言生成 SQL 陳述式：在應用程式中加入自然語言功能，並以自然語言提問與 AlloyDB 互動。接著，AlloyDB AI 會處理自然語言問題，自動生成準確的 SQL 查詢來擷取答案。

後續步驟

• 整合 AlloyDB 與 Vertex AI。

• 建立索引和查詢向量。