Zaawansowane RAG wykraczające poza obecne szablony
Advanced RAG dodaje techniki mierzonych awarii.
Czego się dowiesz
- Wyjaśnij: szmata uzyskuje dostęp do dowodów, nie przekwalifikowuje
- Zastosuj pomysł na przykładzie: Zaawansowane RAG wykraczające poza obecne szablony
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Advanced RAG dodaje techniki mierzonych awarii. Nie są to automatycznie opcje w szablonach lokalnych.
Jest to laboratorium koncepcyjne lub zewnętrzne. Nie zakłada się, że aplikacja udostępnia wszystkie opisane elementy sterujące.
Jak to działa, krok po kroku
RAG uzyskuje dostęp do dowodów, a nie przekwalifikowuje
RAG oznacza generowanie wspomagane wyszukiwaniem: wyszukiwanie dostarcza odpowiednich fragmentów, zanim model odpowie. Pozyskiwanie przygotowuje dokumenty, podczas gdy wykonanie zapytania przeszukuje indeks i buduje kontekst. Model osadzania reprezentuje tekst liczbowo; model odpowiedzi zapisuje odpowiedź. Rerankery, wizja, modele graficzne i routery pełnią w razie potrzeby różne role. RAG pomaga w przypadku prywatnych lub zmieniających się informacji, ale nie gwarantuje prawdy. Korzystaj z autoryzowanego API dla sald, dokładnych zapasów lub uprawnień; stary dokument nie jest wiarygodnym źródłem obecnego stanu.
Wyszukiwanie i ranking to różne etapy
Funkcja wyszukiwania wybiera kandydatów i porządkuje ich w rankingu. top_k to liczba żądanych wyników; zwiększanie go może przynieść dowody, ale także hałas. Osoba dokonująca rerankingu dokładniej przygląda się zapytaniu i kandydatom. Nie można odzyskać fragmentu brakującego na liście początkowej. BM25 wyszukuje dopasowania leksykalne i pomaga w doborze dokładnych kodów; wyszukiwanie wektorów szuka podobieństwa semantycznego. RRF łączy pozycje na listach rankingowych zamiast dodawać wyniki z niezgodnymi jednostkami. Dodatkowe etapy muszą uzasadniać ich jakość, opóźnienia i koszt poprzez testy.
Zdefiniuj sukces przed optymalizacją
Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Te zaawansowane kontrole pobierania to koncepcje zewnętrzne, a nie dodatkowe szablony aplikacji. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
Przepisywanie zapytań wyjaśnia zapytania; warianty wyszukiwania wielozadaniowego; HyDE tworzy hipotetyczny tekst wyszukiwania; pobieranie kontekstowe wzbogaca fragmenty. Kontrole korygujące/samodzielne RAG i mogą powtarzać pobieranie; pobieranie agentowe wybiera kroki dynamicznie.
Spróbuj sam
- Przepisz trzy niejednoznaczne pytania i sprawdź, czy intencja pozostaje niezmieniona.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
Zachowaj oryginalne zapytanie i sprawdź, czy zyski z odzyskiwania uzasadniają dodatkowe wywołania; hipotetyczny tekst nie jest dowodem. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Przepisanie może zmienić znaczenie lub usunąć dokładny identyfikator. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Czy RAG zmienia parametry LLM?
Nie. Dostarcza kontekst w czasie żądania; zmiany parametrów należą do szkolenia.
Czy osoba zajmująca się rerankingiem może naprawić niezindeksowany dokument?
Nie. Fragment musi najpierw znajdować się w indeksie i na liście kandydackiej.
Jaki wynik powinno dać to ćwiczenie?
Zachowaj oryginalne zapytanie i sprawdź, czy zyski z odzyskiwania uzasadniają dodatkowe wywołania; hipotetyczny tekst nie jest dowodem.
Pojęcia do zapamiętania
- Wyszukiwanie: Znajdowanie odpowiednich informacji w dostępnych źródłach.
- Zmień rangę: Bardziej ostrożna zmiana kolejności już pobranych kandydatów.
- Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.
Źródła i następny krok
Aby przygotować: D06 — Aktualizacje, usuwanie i ponowne indeksowanie