Asystent dla skomplikowanych dokumentów

Użyj jednego korpusu, aby porównać strategie RAG.

Czego się dowiesz

  • Wyjaśnij: wyszukiwanie i ranking to różne etapy
  • Zastosuj pomysł na przykładzie: Asystent do skomplikowanych dokumentów
  • Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń

Użyj jednego korpusu, aby porównać strategie RAG. Zmiana szablonu wymaga wyważonego uzasadnienia.

Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.

Jak to działa, krok po kroku

Wyszukiwanie i ranking to różne etapy

Funkcja wyszukiwania wybiera kandydatów i porządkuje ich w rankingu. top_k to liczba żądanych wyników; zwiększanie go może przynieść dowody, ale także hałas. Osoba dokonująca rerankingu dokładniej przygląda się zapytaniu i kandydatom. Nie można odzyskać fragmentu brakującego na liście początkowej. BM25 wyszukuje dopasowania leksykalne i pomaga w doborze dokładnych kodów; wyszukiwanie wektorów szuka podobieństwa semantycznego. RRF łączy pozycje na listach rankingowych zamiast dodawać wyniki z niezgodnymi jednostkami. Dodatkowe etapy muszą uzasadniać ich jakość, opóźnienia i koszt poprzez testy.

Wyraźne powiązania z pochodzeniem

Wykres zawiera elementy i relacje, takie jak Produkt → zastosowania → Część. Ekstrakcja LLM może mylić nazwy lub wymyślać relacje; zachowaj dokument potwierdzający każdy fakt. Ograniczone przechodzenie szuka połączeń poprzez wiele przeskoków. Local Graph RAG łączy fakty Neo4j z fragmentami wektorowymi. Nie jest to automatycznie potok Microsoft GraphRAG z wykrywaniem społeczności i raportami. W przypadku pytań dotyczących zależności można skorzystać z wykresu; proste pytania FAQ mogą być tańsze przy pobieraniu wektorów.

Zdefiniuj sukces przed optymalizacją

Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.

Schemat objaśniający

Asystent dla skomplikowanych dokumentów Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Porównaj to samo pytanie, korzystając z oddzielnych konfiguracji multimodalnych, graficznych i hybrydowych. Ich odpowiedzi są oceniane oddzielnie, a nie łączone w nowy szablon. Znajomości: Dokumenty źródłowe → Fragmenty i metadane źródłowe; Fragmenty i metadane źródłowe → Indeks wektorowy; Dokumenty źródłowe → Model wizji: opisz wizualizacje; Model wizji: opisz wizualizacje → Opisy wizualne i odniesienia; Opisy wizualne i odniesienia → Indeks wektorowy; Żądanie użytkownika → Konfiguracja multimodalna; Konfiguracja multimodalna → Porównaj z oczekiwanymi wynikami; Porównaj z oczekiwanymi wynikami → Weryfikacja przez człowieka; Żądanie użytkownika → Konfiguracja wykresu; Konfiguracja wykresu → Porównaj z oczekiwanymi wynikami; Żądanie użytkownika → Konfiguracja hybrydowa; Konfiguracja hybrydowa → Porównaj z oczekiwanymi wynikami; Indeks wektorowy → Konfiguracja multimodalna; Indeks wektorowy → Konfiguracja wykresu; Indeks wektorowy → Konfiguracja hybrydowa; Wykres wiedzy Neo4j → Konfiguracja wykresu; Opisy wizualne i odniesienia → Konfiguracja multimodalna; Oczekiwane fakty i źródła → Porównaj z oczekiwanymi wynikami. C03 · Mapa relacji Asystent dla skomplikowanych dokumentów Wejście Dokumenty źródłowe Model/agent AI Model wizji: opisz wizualizacje Sklep / indeks Wykres wiedzy Neo4j Dane Fragmenty i metadane źródłowe Sklep / indeks Indeks wektorowy Dane Opisy wizualne i odniesienia Wejście Żądanie użytkownika Przetwarzanie Konfiguracja multimodalna Przetwarzanie Konfiguracja wykresu Przetwarzanie Konfiguracja hybrydowa Decyzja / kontrola Porównaj z oczekiwanymi wynikami Dane Oczekiwane fakty i źródła Decyzja / kontrola Weryfikacja przez człowieka Główny przepływ Dane i kontekst Informacje zwrotne i zwrot

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Porównaj to samo pytanie, korzystając z oddzielnych konfiguracji multimodalnych, graficznych i hybrydowych. Ich odpowiedzi są oceniane oddzielnie, a nie łączone w nowy szablon. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Pytania obejmują dokładne kody, synonimy, powiązania części i brakujące źródła. Testuj naiwnie, reranking, wykres, hybryda i router; dodaj Multimodalny tylko ze zweryfikowanym przetwarzaniem wizji.

Fikcyjne dane dotyczące ćwiczeń

Źródło Informacje do wykorzystania
Katalog LX-240 wykorzystuje część P-12; P-12 korzysta z adaptera A-7.
Powroty Żądania w ciągu 14 dni od otrzymania; produkt nieużywany w oryginalnym opakowaniu.
Dostawa Szacunkowo 2–3 dni robocze po wysyłce, brak gwarancji.

Pytania startowe: „Z jakiego adaptera korzysta LX-240?”, „Czy mogę zwrócić używany produkt?” i „Jak długo trwa dostawa?”. Dodaj przypadki niejednoznaczne i bez odpowiedzi. Przy każdym porównaniu zachowaj to samo źródło.

Spróbuj sam

  1. Przeprowadź identyczne testy w różnych wariantach i sprawdź każdy różniący się wynik.
  2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
  3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
  4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
  5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Tabela rejestruje pobrane dowody, poprawność, czas, zużycie i trasę routera, w tym bezpośrednią. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Różne źródła lub pytania unieważniają porównanie. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Czy osoba zajmująca się rerankingiem może naprawić niezindeksowany dokument?

Nie. Fragment musi najpierw znajdować się w indeksie i na liście kandydackiej.

Czy przewaga wyodrębniona przez sztuczną inteligencję dowodzi, że związek jest prawdziwy?

Nie. Sprawdź jego źródło i tożsamość podmiotów.

Jaki wynik powinno dać to ćwiczenie?

Tabela rejestruje pobrane dowody, poprawność, czas, zużycie i trasę routera, w tym bezpośrednią.

Pojęcia do zapamiętania

  • Zmień rangę: Bardziej ostrożna zmiana kolejności już pobranych kandydatów.
  • Chmiel: Przecięcie jednej relacji na wykresie.
  • Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.

Źródła i następny krok

Aby przygotować: R04 — Zmień rangę RAG: najpierw lepszy dowód · R05 — Multimodalny RAG: dokumenty zawierają również obrazy · R06 — Wykres RAG i wykresy wiedzy · R07 — Hybrid RAG: znaczenie i dokładne słowa · R08 — Router RAG i wybór strategii odzyskiwania · E02 — Ocena RAG etap po etapie