Router RAG i wybór strategii odzyskiwania

Router RAG wybiera strategię na podstawie pytania.

Czego się dowiesz

  • Wyjaśnij: szmata uzyskuje dostęp do dowodów, nie przekwalifikowuje
  • Zastosuj ten pomysł na przykładzie: Router RAG i wybór strategii odzyskiwania
  • Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń

Router RAG wybiera strategię na podstawie pytania. Rozróżnij routing pobierania od kierowania przepływu pracy do specjalisty agenta.

Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.

Jak to działa, krok po kroku

Porównanie i gotowość do produkcji

Naiwność to podstawa. Zmiana rangi poprawia kolejność kandydatów; Multimodal przygotowuje również obrazy; Wykres przedstawia zależności; Hybryda łączy znaczenie i słowa; Router wybiera strategię. Wybieraj na podstawie zmierzonych awarii. Przed produkcją sprawdź aktualne źródła, dostęp przed odzyskaniem, przypadki bez odpowiedzi, stan indeksowania i koszty obu ścieżek. Odpowiedzi bezpośrednie mogą być nieodpowiednie w przypadku pytań, które muszą uwzględniać zasady firmy.

Szczegółowe laboratorium

Routing nie ocenia prawdy

Model routera klasyfikuje zapytanie i wybiera ścieżkę. Nie potwierdza to ścieżki pobranej z odpowiednich dowodów. Rejestruj trasę, odzyskane źródła i obsługiwane roszczenia. W przypadku pytań dotyczących polityki firmy wyraźnie sprawdź, czy zamiast pobierania nie wybrano bezpośredniego generowania.

Testuj parafrazy i zapytania mieszane, takie jak „Jakiego adaptera potrzebuję i jak długo trwa dostawa?”. Mogą wymagać różnych rodzajów dowodów. Złożoność routera jest uzasadniona tylko wtedy, gdy wybór poprawia powodzenie lub koszt w porównaniu z wartością bazową wykorzystującą ten sam korpus.

Schemat objaśniający

Router RAG i wybór strategii odzyskiwania Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Wybrana jest dokładnie jedna trasa odzyskiwania. Oddział bezpośredni omija pobieranie i zwraca własną odpowiedź. Pobieranie zwraca dowód. Jeśli model odpowiedzi jest włączony, tworzy on również odpowiedź; odzyskane dowody nadal wymagają sprawdzenia. Znajomości: Żądanie użytkownika → Router: klasyfikacja intencji; Router: klasyfikacja intencji → Intencja i wybrana strategia; Wyszukiwanie semantyczne → Zbuduj kontekst dowodowy; Zbuduj kontekst dowodowy → Model odpowiedzi (opcjonalnie); Model odpowiedzi (opcjonalnie) → Dowody ze źródłami; Wyodrębnij jednostki z zapytania → Ograniczone przechodzenie przez graf; Ograniczone przechodzenie przez graf → Zbuduj kontekst dowodowy; Odzyskiwanie hybrydowe → Zbuduj kontekst dowodowy; Bezpośrednia odpowiedź bez wyszukiwania → Ostateczna odpowiedź; Instrukcje i kontekst → Router: klasyfikacja intencji; Możliwości i ograniczenia → Router: klasyfikacja intencji; Intencja i wybrana strategia → Wyszukiwanie semantyczne (vector); Intencja i wybrana strategia → Wyodrębnij jednostki z zapytania (graph); Intencja i wybrana strategia → Odzyskiwanie hybrydowe (hybrid); Intencja i wybrana strategia → Bezpośrednia odpowiedź bez wyszukiwania (direct); Indeks wektorowy → Wyszukiwanie semantyczne; Wykres wiedzy Neo4j → Ograniczone przechodzenie przez graf; Indeks wektorowy → Odzyskiwanie hybrydowe. R08 · Mapa relacji Router RAG i wybór strategii odzyskiwania Wejście Żądanie użytkownika Dane Instrukcje i kontekst Dane Możliwości i ograniczenia Model/agent AI Router: klasyfikacja intencji Decyzja / kontrola Intencja i wybrana strategia Przetwarzanie Wyszukiwanie semantyczne Model/agent AI Wyodrębnij jednostki z zapytania Przetwarzanie Odzyskiwanie hybrydowe Model/agent AI Bezpośrednia odpowiedź bez wyszukiwania Sklep / indeks Indeks wektorowy Przetwarzanie Ograniczone przechodzenie przez graf Sklep / indeks Wykres wiedzy Neo4j Przetwarzanie Zbuduj kontekst dowodowy Model/agent AI Model odpowiedzi (opcjonalnie) Wyjście Ostateczna odpowiedź Wyjście Dowody ze źródłami vector graph hybrid direct Główny przepływ Dane i kontekst Informacje zwrotne i zwrot

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Wybrana jest dokładnie jedna trasa odzyskiwania. Oddział bezpośredni omija pobieranie i zwraca własną odpowiedź. Pobieranie zwraca dowód. Jeśli model odpowiedzi jest włączony, tworzy on również odpowiedź; odzyskane dowody nadal wymagają sprawdzenia. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Polityka zwrotów może wykorzystywać wektor; zależności część-adapter wykorzystują wykres; dokładne identyfikatory wykorzystują hybrydę; pytania ogólne użyj bezpośrednio. Trasa bezpośrednia nie przegląda dokumentów prywatnych.

Spróbuj sam

  1. Wybierz Router i model routera; wektor testowy, graf, hybryda, żądanie bezpośrednie i niejednoznaczne.
  2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
  3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
  4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
  5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Zapisz wybraną trasę i fakt, czy faktycznie wykorzystano dowód. Porównaj wszystkie sześć wariantów identycznych pytań. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Lokalny oddział hybrydowy łączy się i deduplikuje; nie stosuje automatycznie RRF oddzielnego szablonu hybrydowego i nie zmienia jego rankingu. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Czy RAG zmienia parametry LLM?

Nie. Dostarcza kontekst w czasie żądania; zmiany parametrów należą do szkolenia.

Czy osoba zajmująca się rerankingiem może naprawić niezindeksowany dokument?

Nie. Fragment musi najpierw znajdować się w indeksie i na liście kandydackiej.

Jaki wynik powinno dać to ćwiczenie?

Zapisz wybraną trasę i fakt, czy faktycznie wykorzystano dowód. Porównaj wszystkie sześć wariantów identycznych pytań.

Pojęcia do zapamiętania

  • Wyszukiwanie: Znajdowanie odpowiednich informacji w dostępnych źródłach.
  • Zmień rangę: Bardziej ostrożna zmiana kolejności już pobranych kandydatów.
  • Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.

Źródła i następny krok

Aby przygotować: R07 — Hybrid RAG: znaczenie i dokładne słowa

Kontynuuj za pomocą: D04 — Dobre pytania do testowania RAG · E02 — Ocena RAG etap po etapie · C03 — Asystent skomplikowanych dokumentów