Notatki z webinaru Roberta Szewczyka prezentującego proces budowania systemu RAG w n8n. Wszystkie instrukcje pochodzą od autora oryginalnego materiału.

TL;DR

RAG (Retrieval Augmented Generation) to technika umożliwiająca modelom AI korzystanie z własnych dokumentów podczas generowania odpowiedzi
Baza wektorowa Pinecone służy do przechowywania dokumentów w formie embeddingów, które pozwalają na semantyczne wyszukiwanie
Proces tworzenia RAG w n8n składa się z dwóch głównych części: indeksowania dokumentów i budowy agenta odpowiadającego na pytania
Kluczowym elementem skutecznego RAG jest odpowiednie dzielenie tekstu na fragmenty (chunking) – zalecane wartości to chunk size 1500 i chunk overlap 200
Parafrazowanie zapytań użytkownika zwiększa skuteczność wyszukiwania w bazie wiedzy
Filtry score pozwalają na wybór najbardziej trafnych fragmentów dokumentów (powyżej 0.4)
Namespaces w Pinecone umożliwiają organizację różnych kategorii dokumentów w jednej bazie

Wprowadzenie do RAG – Co to jest i dlaczego warto?

RAG (Retrieval Augmented Generation) to technika, która pozwala dużym modelom językowym takim jak ChatGPT czy Claude korzystać z zewnętrznej bazy wiedzy do generowania odpowiedzi. Zamiast opierać się wyłącznie na danych, na których został wytrenowany, model może sięgnąć po konkretne, aktualne informacje z dostarczonych przez nas źródeł.

Jest to szczególnie ważne, ponieważ standardowe modele AI nie mają dostępu do firmowych dokumentów, najnowszych danych lub specjalistycznych materiałów. RAG rozwiązuje ten problem, umożliwiając modelom „czytanie” naszych dokumentów i odpowiadanie na ich podstawie.

Ważna uwaga bezpieczeństwa: Nie wrzucaj do RAG danych poufnych czy wrażliwych. Zadbaj o bezpieczeństwo informacji.

Krok po kroku: Tworzenie bazy wiedzy w Pinecone

Checklist przygotowań:

Założenie konta na pinecone.io
Utworzenie indeksu z odpowiednim modelem embeddingowym
Wygenerowanie i zabezpieczenie klucza API
Zaplanowanie struktury namespaces

Założenie konta i tworzenie indeksu

Pierwszym krokiem jest przygotowanie bazy wektorowej Pinecone:

Wejdź na stronę pinecone.io i załóż bezpłatne konto
Po zalogowaniu przejdź do sekcji „Database” i „Indexes”
Kliknij „Create Index” i nadaj mu nazwę (np. „baza-wiedzy-n8n”)
W konfiguracji wybierz model „OpenAI Text Embedding 3 Small”
Wybierz „Serverless” jako Capacity Mode
Kliknij „Create Index”

Przygotowanie API Key

Po utworzeniu indeksu potrzebujesz klucza API:

Przejdź do sekcji „API Keys” w Pinecone
Kliknij „Create API Key” i nadaj mu nazwę
Skopiuj i zachowaj klucz w bezpiecznym miejscu (będzie potrzebny później)

Budowanie workflow indeksowania dokumentów w n8n

Teraz przechodzimy do n8n, gdzie stworzymy workflow do indeksowania dokumentów:

Pierwszy workflow – indeksowanie dokumentów

Trigger (wyzwalacz):
- Dodaj trigger „Manual” do uruchamiania workflow ręcznie
Wyszukiwanie plików:
- Dodaj node „Google Drive” > „Search Files and Folders”
- Dodaj filtr na folder zawierający dokumenty (np. „baza-wiedzy-RAG”)
- To ograniczy dostęp tylko do wybranych dokumentów
Pobieranie plików:
- Dodaj node „Google Drive” > „Download File”
- W polu „file” wybierz ID dokumentu z poprzedniego kroku
Dodawanie do Pinecone:
- Dodaj node „Pinecone Vector Store” > „Add Documents to Vector Store”
- Wklej API key z Pinecone
- Wybierz indeks utworzony wcześniej
- Dodaj opcję „Pinecone Namespace” (np. „baza-wiedzy”)
- Namespace pozwala na organizację różnych kategorii dokumentów
Model embeddingowy:
- Dodaj node „Embeddings OpenAI”
- Połącz się z API OpenAI
- Wybierz model „text-embedding-3-small” (ten sam, który wybrałeś w Pinecone)
Data loader:
- Dodaj „Default Data Loader”
- Ustaw „Type of Data” na „Binary” dla plików PDF
- Dodaj metadane (np. „filename”) dla lepszego filtrowania w przyszłości
Text splitter (dzielenie tekstu):
- Dodaj „RecursiveCharacterTextSplitter”
- Ustaw „chunk size” na 1500 (liczba znaków w jednym fragmencie)
- Ustaw „chunk overlap” na 200 (część wspólna między fragmentami)

Czym jest chunking i dlaczego jest ważny?

Dzielenie tekstu (chunking) to proces podziału długich dokumentów na mniejsze fragmenty. Wyobraź to sobie jak dzielenie książki na rozdziały lub akapity:

Kluczowe parametry chunkingu:

Chunk size (1500) określa, jak duże będą fragmenty tekstu
Chunk overlap (200) to część, która jest wspólna dla końca jednego fragmentu i początku następnego – zapobiega gubieniu kontekstu

Konsekwencje wartości chunkingu:

Zbyt małe chunki:
- ✓ Łatwiejsze dopasowanie do konkretnych zapytań
- ✗ Utrata szerszego kontekstu
- ✗ Fragmentacja powiązanych informacji
Zbyt duże chunki:
- ✓ Zachowanie pełnego kontekstu
- ✗ Trudniejsze dopasowanie do konkretnych zapytań
- ✗ Więcej nieistotnych informacji w odpowiedzi

Odpowiednie parametry chunk size i chunk overlap są kluczowe dla jakości odpowiedzi generowanych przez model. W transkrypcie zalecano wartości 1500/200 jako punkt startowy do testów.

Tworzenie workflow do komunikacji z bazą wiedzy

Checklist komunikacji z RAG:

Skonfigurować trigger uruchamiający workflow
Zaimplementować parafrazowanie zapytań
Ustawić przeszukiwanie bazy wiedzy z filtrowaniem
Wyeliminować duplikaty w wynikach
Skonfigurować LLM do generowania odpowiedzi

Drugim krokiem jest stworzenie workflow do odpowiadania na pytania:

Konfiguracja wejścia:

Trigger Chat:
- Dodaj trigger „On Chat Message”
- To może być również inny trigger, np. z bazy danych, maila, itp.

Zwiększanie trafności wyszukiwania:

Parafraza zapytań:
- Dodaj „LLM Chain” z modelem GPT-4 Nano
- Skonfiguruj, aby generował trzy różne parafrazy pytania
- Ta technika zwiększa skuteczność wyszukiwania w bazie wiedzy
- W systemowym prompcie poproś o wygenerowanie trzech parafraz
- Ustaw format odpowiedzi jako JSON z trzema różnymi parafrazami
Podział zapytań:
- Dodaj node „Split Out”
- Ustaw „fields to split out” na „output”
- Dzięki temu każda parafraza będzie oddzielnym zapytaniem

Przeszukiwanie i przetwarzanie wyników:

Przeszukiwanie bazy wiedzy:
- Dodaj „Pinecone Vector Store” > „Get Menu”
- Wybierz indeks Pinecone
- Ustaw limit wyników na 4 (dla każdej parafrazy)
- Dodaj opcję „Pinecone Namespace” wybraną wcześniej
Filtrowanie wyników:
- Dodaj node „Filter”
- Ustaw warunek „score” > 0.4
- Score to prawdopodobieństwo dopasowania fragmentu do pytania (0-1)
- Filtrowanie po score zapewnia, że dostaniemy tylko trafne fragmenty
Usuwanie duplikatów:
- Dodaj „Remove Duplicates”
- Ustaw porównywanie na pole „document.page_content”
- Zapobiega to powtarzaniu tych samych fragmentów w odpowiedzi
Łączenie danych:
- Dodaj „Aggregate”
- Połącz wszystkie unikalne fragmenty w jeden zestaw danych
- To pozwala modelowi analizować wszystkie znalezione fragmenty jednocześnie

Generowanie odpowiedzi:

Odpowiedź dla użytkownika:
- Dodaj „Basic LLM Chain” z modelem GPT-4 Mini
- Skonfiguruj prompt systemowy zawierający pytanie użytkownika i znalezione fragmenty
- Ustaw wytyczne dla modelu jak ma odpowiadać na podstawie znalezionych fragmentów

Korzyści płynące z parafrazowania zapytań:

Zwiększona szansa znalezienia trafnych fragmentów
Możliwość interpretacji pytania z różnych perspektyw
Lepsza odporność na niestandardowe sformułowania użytkownika
Większa kompletność odpowiedzi (różne interpretacje mogą znaleźć różne fragmenty)

Praktyczne wskazówki przy budowaniu RAG

Dokonuj mądrych wyborów technicznych:

Używaj LLM Chain zamiast Agent AI – w przypadku RAG model nie potrzebuje pamięci ani dostępu do narzędzi, więc wystarczy prostszy LLM Chain
Testuj różne wartości chunk size i chunk overlap – sprawdź, czy AI nie gubi kontekstu i czy odpowiedzi są satysfakcjonujące
Dostosuj poziom filtrowania score – możesz ustawić wyższy próg (np. 0.5 lub 0.6) dla większej precyzji

Organizuj dane efektywnie:

Używaj namespaces w Pinecone – pozwala to na segregowanie dokumentów, np. osobno transkrypty filmów, osobno dane firmowe
Dodawaj metadane do dokumentów – umożliwia to późniejsze filtrowanie po konkretnych atrybutach, np. nazwie pliku

Checklist optymalizacji RAG:

Przetestuj różne wartości chunk size (1000-2000 znaków)
Dostosuj chunk overlap (zwykle 10-20% chunk size)
Wybierz odpowiedni próg score (0.4-0.6)
Zorganizuj dokumenty w logiczne namespaces
Dodaj metadane ułatwiające filtrowanie
Przetestuj skuteczność z różnymi rodzajami zapytań

Możliwości rozwoju i zaawansowane techniki RAG

Przedstawiony przewodnik to dopiero wierzchołek góry lodowej. Zaawansowany RAG może obejmować:

Filtrowanie wyników
Rerankowanie
Bardziej zaawansowane strategie dzielenia tekstu
Różne modele embeddingowe
Integrację z innymi bazami danych

Polecane materiały do pogłębienia wiedzy

Dla osób zainteresowanych tematem RAG i bazami wektorowymi warto rozważyć następujące pozycje:

„Building RAG Applications with LangChain” – James Briggs
„Vector Databases: From Embeddings to Applications” – Ethan Rosenthal
„Generative AI with LangChain” – Ben Auffarth
„Retrieval Augmented Generation: Building AI Applications with LLMs and Your Data” – Alex Ratner
„LLMs for Data Processing: Leveraging Large Language Models for Data Engineering” – Dan McCreary

Ten artykuł jest częścią serii notatek z wartościowych webinarów. Treść bazuje wyłącznie na informacjach i doświadczeniach przedstawionych przez Roberta Szewczyka w webinarze „Jak Stworzyć BAZĘ WIEDZY (RAG) Dla Agenta AI w n8n”. Wszystkie wskazówki, przykłady i rekomendacje pochodzą od twórcy oryginalnego materiału.

Źródło webinaru: https://www.youtube.com/watch?v=Q3_l2qyUcyk&t=11s

Tag: Llm Chain

Jak stworzyć bazę wiedzy (RAG) dla agenta AI w n8n – Praktyczny przewodnik #EN92