Podpowiedź, RAG czy dostrajanie?

Metody te zmieniają różne rzeczy. Wybierz na podstawie tego, czy problem dotyczy instrukcji, faktów, czy powtarzającego się zachowania.

Możesz kontynuować ten kurs bez konta i programowania. W przykładach wykorzystano dane syntetyczne, a wyniki sztucznej inteligencji wymagają sprawdzenia.

Jak to działa, krok po kroku

Instrukcje, wiedza i adaptacja

Monit zmienia instrukcje i przykłady żądania. RAG zmienia dostępne dowody bez modyfikowania modelu. Dostrajanie dostosowuje parametry powtarzających się zachowań lub zadań i wymaga wysokiej jakości danych i oceny. LoRA/PEFT uczy mniejszego zestawu parametrów w celu wydajnej adaptacji. Destylacja przenosi zachowanie z jednego modelu na drugi; kwantyzacja zmniejsza precyzję numeryczną, zapewniając wydajne wnioskowanie, bez kompromisów. Żaden nie naprawia automatycznie nieprawidłowych źródeł. W przypadku często zmieniających się przepisów aktualizacja dokumentów jest zwykle łatwiejsza do sprawdzenia niż przekwalifikowanie.

RAG uzyskuje dostęp do dowodów, a nie przekwalifikowuje

RAG oznacza generowanie wspomagane wyszukiwaniem: wyszukiwanie dostarcza odpowiednich fragmentów, zanim model odpowie. Pozyskiwanie przygotowuje dokumenty, podczas gdy wykonanie zapytania przeszukuje indeks i buduje kontekst. Model osadzania reprezentuje tekst liczbowo; model odpowiedzi zapisuje odpowiedź. Rerankery, wizja, modele graficzne i routery pełnią w razie potrzeby różne role. RAG pomaga w przypadku prywatnych lub zmieniających się informacji, ale nie gwarantuje prawdy. Korzystaj z autoryzowanego API dla sald, dokładnych zapasów lub uprawnień; stary dokument nie jest wiarygodnym źródłem obecnego stanu.

Zdefiniuj sukces przed optymalizacją

Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.

Schemat objaśniający

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Zbyt techniczny ton wymaga wyraźniejszego podpowiedzi. Nowa polityka wymaga zaktualizowanych źródeł i wytycznych w sprawie wytycznych. Powtarzające się specjalistyczne formatowanie może uzasadniać doprecyzowanie po ocenie prostszych opcji.

Spróbuj sam

1. Wybierz rozwiązanie dla tonu, żywego inwentarza, nowej polityki i wielokrotnego formatowania.
2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Używaj podpowiedzi dotyczących wymagań, RAG dla dokumentów i adaptacji tylko z odpowiednimi danymi i oceną. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Dostrajanie nie jest aktywną bazą danych. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Czy dostrajanie jest pierwszym wyborem w przypadku obecnych zapasów?

Nie. W przypadku szybko zmieniających się informacji korzystaj z autoryzowanego źródła informacji.

Czy RAG zmienia parametry LLM?

Nie. Dostarcza kontekst w czasie żądania; zmiany parametrów należą do szkolenia.

Jaki wynik powinno dać to ćwiczenie?

Używaj podpowiedzi dotyczących wymagań, RAG dla dokumentów i adaptacji tylko z odpowiednimi danymi i oceną.

Pojęcia do zapamiętania

• Dostrajanie: Dostosowywanie parametrów modelu na przykładach specyficznych dla zadania.
• Wyszukiwanie: Znajdowanie odpowiednich informacji w dostępnych źródłach.
• Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.

Źródła i następny krok

• Hugging Face — PEFT
• Lewis et al. — Pokolenie rozszerzone o odzyskiwanie
• LangGraph — Przepływy pracy i agenci

Aby przygotować: P06 — Rozumowanie i weryfikacja