RAG neu einordnen: Bessere Beweise zuerst
Rerank fügt eine sorgfältigere Auswahl nach dem Abrufen hinzu.
Was Sie lernen werden
- Erklären Sie: Suche und Ranking sind verschiedene Phasen
- Wenden Sie die Idee in einem Beispiel an: RAG neu einordnen: Bessere Beweise zuerst
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Rerank fügt eine sorgfältigere Auswahl nach dem Abrufen hinzu. Es hilft, wenn zwar gute Beweise vorliegen, diese aber zu niedrig eingestuft werden.
Diese Schritte beziehen sich auf im Anwendungscode identifizierte Funktionen. Dieses Material wurde nicht in einer Live-Instanz validiert; Überprüfen Sie die Dokumentation und die Optionen in Ihrer Version.
Wie es funktioniert, Schritt für Schritt
Suche und Ranking sind verschiedene Phasen
Beim Retrieval werden Kandidaten ausgewählt und nach einer Rangfolge sortiert. top_k ist die Anzahl der angeforderten Ergebnisse; Eine Erhöhung kann zu Beweisen, aber auch zu Lärm führen. Ein Reranker untersucht die Anfrage und die Kandidaten genauer. Es kann keine Passage wiederherstellen, die in der ursprünglichen Liste fehlt. BM25 sucht nach lexikalischen Übereinstimmungen und hilft bei exakten Codes; Die Vektorsuche sucht nach semantischer Ähnlichkeit. RRF kombiniert Positionen in Ranglisten, anstatt Punkte mit inkompatiblen Einheiten zu addieren. Zusätzliche Stufen müssen ihre Qualität, Latenz und Kosten durch Tests rechtfertigen.
RAG greift auf Beweise zu, es führt keine Umschulung durch
RAG bedeutet Retrieval-Augmented Generation: Retrieval liefert relevante Passagen, bevor das Modell antwortet. Die Aufnahme bereitet Dokumente vor, während die Abfrageausführung den Index durchsucht und den Kontext erstellt. Ein Einbettungsmodell stellt Text numerisch dar; Das Antwortmodell schreibt die Antwort. Reranker-, Vision-, Graph- und Router-Modelle übernehmen bei Bedarf unterschiedliche Rollen. RAG hilft bei privaten oder sich ändernden Informationen, übernimmt jedoch keine Gewähr für die Richtigkeit. Verwenden Sie eine autorisierte API für Salden, genaue Bestände oder Berechtigungen; Ein altes Dokument ist keine verlässliche Quelle für den aktuellen Stand.
Die Kosten gehören zum gesamten Pfad
Zählen Sie Modellaufrufe, Eingabe- und Ausgabetokens, Einbettungen, Neurankings, Visionen und Tools. Reasoning kann abrechenbare Token verbrauchen, ohne dass eine ebenso lange sichtbare Antwort erfolgt. Indexierungskosten und Gesprächskosten unterscheiden sich. Verwenden Sie aktuelle Preise anstelle einer dauerhaften Kursnummer. Eine einfache Schätzung ist Token/1.000.000 × Preis plus zusätzliche Operationen; Bewerbungsguthaben können eine eigene Umrechnung haben. Vergleichen Sie die Kosten pro erfolgreicher Aufgabe, nicht nur pro Anruf. Die parallele Ausführung kann die Latenz reduzieren und gleichzeitig den Gesamtverbrauch erhöhen. Ein Budget benötigt eine überprüfte Stoppbedingung.
Detailliertes Labor
Interpretieren Sie die Anfangs- und Endlisten
initial_top_k bestimmt die Anzahl der abgerufenen Kandidaten; final_top_k bestimmt, wie viele nach dem Reranking übrig bleiben. Überprüfen Sie den ausgewählten Reranker und seine Kosten. Der Liefertext kann einer Antwortfrage semantisch nahe kommen, ohne dass es sich um einen geeigneten Beweis handelt.
Vergleichen Sie Läufe mit identischem Korpus, identischem Abfrage- und Antwortmodell. Fehlt die entsprechende Passage in beiden Erstlisten, kann eine Neueinstufung die Ursache nicht beheben. Falls vorhanden und besser eingestuft, überprüfen Sie auch die endgültige Antwort: Eine bessere Liste garantiert nicht, dass jede Bedingung verwendet wird.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Der Abruf gibt Beweise zurück. Wenn ein Antwortmodell aktiviert ist, erstellt es auch eine Antwort; sichergestellte Beweise müssen noch überprüft werden. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
Das Rückgaberecht ist der achte Kandidat. initial_top_k=15 schließt es ein; final_top_k=5 behält die relevantesten neu eingestuften Passagen bei. Bei nur vier Erstkandidaten würde es fehlen.
template: Rerank
initial_top_k: 15
final_top_k: 5
Probieren Sie es selbst aus
- Konfigurieren Sie einen Reranker, initial_top_k=15 und final_top_k=5 als Experiment, nicht als universelle Einstellungen.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Korrekte Beweise sind enthalten und besser geordnet; Vergleichen Sie Qualität und Kosten mit Naive. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Durch das Reranking können nicht indizierte oder nicht autorisierte Quellen nicht behoben werden. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Kann ein Reranker ein nicht indiziertes Dokument reparieren?
Nein. Die Passage muss zunächst im Index und in der Kandidatenliste vorhanden sein.
Verändert RAG die LLM-Parameter?
Nein. Es stellt den Kontext zur Anforderungszeit bereit. Parameteränderungen gehören zum Training.
Zu welchem Ergebnis soll diese Übung führen?
Korrekte Beweise sind enthalten und besser geordnet; Vergleichen Sie Qualität und Kosten mit Naive.
Wichtige Begriffe
- Neu einordnen: Eine sorgfältigere Neuordnung der bereits abgerufenen Kandidaten.
- Abruf: Relevante Informationen in zugänglichen Quellen finden.
- Latenz / Latenz: Zeit bis zu einem brauchbaren Ergebnis.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: R03 – Naive RAG: Ihre Grundlinie