słownik automatyzacji

Vertex AI

Vertex AI to ujednolicona platforma Google Cloud do budowania, wdrażania i skalowania aplikacji opartych na modelach uczenia maszynowego i generatywnej AI. Dostarcza dostęp do modeli Gemini przez API, generowanie embeddingów, RAG Engine do zarządzania bazami wiedzy i narzędzia do fine-tuningu własnych modeli.

Zanim Vertex AI zyskało obecny kształt, Google miało kilkanaście rozproszonych produktów AI. Vertex AI to próba ujednolicenia ich w jedno API. Dla zastosowań w automatyzacji procesów najważniejsze komponenty to: Gemini API (modele językowe do generowania tekstu i analizy), API embeddingów (zamiana tekstu na wektory) i RAG Engine (zarządzanie bazami wiedzy z wyszukiwaniem semantycznym).

Model text-multilingual-embedding-002 to aktualny standard embeddingów w Vertex AI dla języka polskiego. Generuje wektory 768-wymiarowe z dobrej jakości reprezentacją semantyczną dla tekstu wielojęzycznego. Te embeddingi można składować w pgvector lub bezpośrednio w corpusie RAG Engine.

Vertex AI integruje się z GCP przez Workload Identity Federation: VM w GCP ma przypisane service account, które ma dostęp do Vertex AI API. Żadnych kluczy API, żadnych plików JSON z credentialami. Aplikacja wywołuje API z tokenem pobranym z metadata serwera GCP. To jedyna właściwa metoda uwierzytelniania w produkcji.

W praktyce

W Workin'Flows Vertex AI obsługuje dwa zastosowania. Pierwsze to RAG Engine: corpus workinflows-marketing zawierający dokumentację usług, case studies i FAQ. N8n workflow ingestii przetwarza nowe dokumenty: chunking po paragrafach, generowanie embeddingów przez text-multilingual-embedding-002, upload do corpusu. Chatbot na stronie przeszukuje ten corpus przy każdym pytaniu użytkownika. Drugie to Gemini Flash jako model odpowiedzi -- szybki, niedrogi, dobry dla chatbota w czasie rzeczywistym. Modele Opus/Sonnet używam do zadań wymagających dłuższego reasoning.

Powiązane

← Wróć do słownika