Przesyłanie, szybkie indeksowanie i indeksowanie wsadowe

Przesłany plik nie stanowi jeszcze dowodu, który można przeszukiwać.

Czego się dowiesz

  • Wyjaśnij: dobre dokumenty poprzedzają dobre odpowiedzi
  • Zastosuj pomysł na przykładzie: przesyłanie, szybkie indeksowanie i indeksowanie wsadowe
  • Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń

Przesłany plik nie stanowi jeszcze dowodu, który można przeszukiwać. Śledź przetwarzanie do jego stanu końcowego i odróżniaj opóźnienia od awarii.

Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.

Jak to działa, krok po kroku

Dobre dokumenty poprzedzają dobre odpowiedzi

Przygotuj czytelny tekst, jasne nagłówki, tabele z nagłówkami i źródłami bez zbędnych duplikatów. Dzielenie dokumentu na fragmenty, które można oddzielnie odzyskiwać; nakładanie się zapewnia ciągłość pomiędzy sąsiadami. Krótki kawałek może stracić warunki, podczas gdy duży wprowadza hałas. Metadane zachowują źródło, pozycję i wersję, a także zakres dostępu, jeśli jest to wymuszone przez implementację. Przesyłanie przechowuje plik; indeksowanie umożliwia przeszukiwanie. Gdy zmieni się źródło, przed zadeklarowaniem aktualnej bazy wiedzy sprawdź, czy stare fragmenty zniknęły i czy zostały pobrane nowe.

Błędy wymagają wyraźnych ścieżek

Limit czasu różni się od błędu uprawnień. Ponawiaj tylko błędy przejściowe, z ograniczonymi próbami i rosnącymi opóźnieniami. Operacja powodująca skutki uboczne może zostać wykonana przed utratą odpowiedzi; ponowna próba bez klucza idempotencji może zduplikować efekt. Przesyłanie strumieniowe pokazuje postęp, ale nie gwarantuje ukończenia. Punkty kontrolne mogą pozwolić na wznowienie nieudanych etapów w ramach limitów czasu wykonania. Przechowuj identyfikator przebiegu, etap, czas trwania i błąd podczas usuwania wpisów tajnych z dzienników. Mierz wolne ścieżki i średnie.

Koszt dotyczy całej ścieżki

Zliczaj wywołania modeli, tokeny wejściowe i wyjściowe, osadzanie, reranking, wizję i narzędzia. Rozumowanie może zużywać płatne tokeny bez równie długiej widocznej odpowiedzi. Koszty indeksowania i koszty rozmów są różne. Używaj aktualnych cen, a nie stałego numeru z kursu. Prosty szacunek to tokeny/1 000 000 × cena plus dodatkowe operacje; Kredyty aplikacyjne mogą mieć własną konwersję. Porównaj koszt udanego zadania, a nie tylko połączenia. Wykonywanie równoległe może zmniejszyć opóźnienia, jednocześnie zwiększając całkowite zużycie. Budżet wymaga zweryfikowanego warunku zatrzymania.

Schemat objaśniający

Przesyłanie, szybkie indeksowanie i indeksowanie wsadowe Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Znajomości: Dokumenty źródłowe → Przesyłaj i przechowuj pliki; Przesyłaj i przechowuj pliki → Wybierz następną akcję; Szybkie indeksowanie → Stan indeksowania; Indeksowanie wsadowe → Stan indeksowania; Stan indeksowania → Testy na placu zabaw; Testy na placu zabaw → Weryfikacja przez człowieka; Źródło, strona i wersja → Przesyłaj i przechowuj pliki; Wybierz następną akcję → Szybkie indeksowanie (Szybka ścieżka); Wybierz następną akcję → Indeksowanie wsadowe (Pełne indeksowanie); Szybkie indeksowanie → Indeks wektorowy; Indeksowanie wsadowe → Indeks wektorowy; Indeksowanie wsadowe → Wykres wiedzy Neo4j; Reprezentatywne pytania testowe → Testy na placu zabaw. D02 · Mapa relacji Przesyłanie, szybkie indeksowanie i indeksowanie wsadowe Wejście Dokumenty źródłowe Przetwarzanie Przesyłaj i przechowuj pliki Dane Źródło, strona i wersja Decyzja / kontrola Wybierz następną akcję Przetwarzanie Szybkie indeksowanie Przetwarzanie Indeksowanie wsadowe Dane Stan indeksowania Sklep / indeks Indeks wektorowy Sklep / indeks Wykres wiedzy Neo4j Wejście Reprezentatywne pytania testowe Przetwarzanie Testy na placu zabaw Decyzja / kontrola Weryfikacja przez człowieka Szybka ścieżka Pełne indeksowanie Główny przepływ Dane i kontekst Informacje zwrotne i zwrot

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Prześlij polisę w formacie RAG. Szybko rozpoczyna zwykłe przetwarzanie; partia może odroczyć działania dostawcy. Przed przetestowaniem pytania sprawdź powiadomienia i status dokumentu.

Spróbuj sam

  1. Prześlij dokument syntetyczny i wykonaj przesyłanie, przetwarzanie i testowanie zapytań.
  2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
  3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
  4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
  5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Dokument można przeszukiwać dopiero po pomyślnym przetworzeniu; zachować etap błędu i komunikat do diagnostyki. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Sprawdź ograniczenia formatu i rozmiaru w aktualnej wersji. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Czy ukończenie przesyłania oznacza, że ​​dokument jest gotowy do RAG?

Nie. Wyodrębnianie, fragmentowanie i indeksowanie również musi zakończyć się pomyślnie.

Czy przekroczenie limitu czasu oznacza, że ​​operacja nie została wykonana?

Nie. Sprawdź stan przed ponowną próbą działania ze skutkami ubocznymi.

Jaki wynik powinno dać to ćwiczenie?

Dokument można przeszukiwać dopiero po pomyślnym przetworzeniu; zachować etap błędu i komunikat do diagnostyki.

Pojęcia do zapamiętania

  • Kawałek: Fragment dokumentu, który można pobrać osobno.
  • Idempotencja: Kontrolowane powtarzanie bez powielania efektu.
  • Latență / Opóźnienie: Czas do użytecznego wyniku.

Źródła i następny krok

Aby przygotować: D01 – Przygotowywanie dokumentów dla AI