Router-RAG und Auswahl Ihrer Abrufstrategie
Router RAG wählt basierend auf der Frage eine Strategie.
Was Sie lernen werden
- Erklären Sie: Rag greift auf Beweise zu, es führt keine Umschulung durch
- Wenden Sie die Idee in einem Beispiel an: Router RAG und Auswahl Ihrer Abrufstrategie
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Router RAG wählt basierend auf der Frage eine Strategie. Unterscheiden Sie die Abrufweiterleitung von der Workflow-Weiterleitung an einen Agentenspezialisten.
Diese Schritte beziehen sich auf im Anwendungscode identifizierte Funktionen. Dieses Material wurde nicht in einer Live-Instanz validiert; Überprüfen Sie die Dokumentation und die Optionen in Ihrer Version.
Wie es funktioniert, Schritt für Schritt
Vergleich und Produktionsbereitschaft
Naiv ist die Grundlinie. Reranking verbessert die Reihenfolge der Kandidaten; Multimodal bereitet auch Bilder vor; Graph folgt Beziehungen; Hybrid vereint Bedeutung und Worte; Der Router wählt eine Strategie. Wählen Sie nach gemessenen Fehlern. Überprüfen Sie vor der Produktion die aktuellen Quellen, den Zugriff vor dem Abruf, unbeantwortete Fälle, den Indizierungsstatus und die Kosten beider Wege. Für Fragen, die Unternehmensrichtlinien erfordern, sind direkte Antworten möglicherweise ungeeignet.
Detailliertes Labor
Routing bewertet nicht die Wahrheit
Das Routermodell klassifiziert eine Anfrage und wählt einen Pfad aus. Es beweist nicht, dass auf dem Weg entsprechende Beweise gefunden wurden. Zeichnen Sie Route, abgerufene Quellen und unterstützte Ansprüche auf. Stellen Sie bei Fragen zu Unternehmensrichtlinien explizit sicher, dass nicht die direkte Generierung anstelle des Abrufs ausgewählt wurde.
Testen Sie Paraphrasen und gemischte Fragen wie „Welchen Adapter benötige ich und wie lange dauert die Lieferung?“. Sie können unterschiedliche Beweisarten erfordern. Die Komplexität des Routers ist nur dann gerechtfertigt, wenn die Auswahl den Erfolg oder die Kosten im Vergleich zu einer Basislinie mit demselben Korpus verbessert.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Es wird genau eine Abrufroute ausgewählt. Der direkte Zweig umgeht den Abruf und gibt seine eigene Antwort zurück. Der Abruf gibt Beweise zurück. Wenn ein Antwortmodell aktiviert ist, erstellt es auch eine Antwort; sichergestellte Beweise müssen noch überprüft werden. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
In den Rückgaberichtlinien kann Vektor verwendet werden; Teil-Adapter-Beziehungen verwenden Diagramm; genaue Bezeichner verwenden Hybrid; Allgemeine Fragen verwenden Sie direkt. Beim direkten Weg werden keine privaten Dokumente eingesehen.
Probieren Sie es selbst aus
- Wählen Sie Router und ein Routermodell; Testvektor, Diagramm, Hybrid, direkt und eine mehrdeutige Anfrage.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Notieren Sie die gewählte Route und ob tatsächlich Beweise verwendet wurden. Vergleichen Sie alle sechs Varianten zu identischen Fragen. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Der lokale Hybridzweig wird zusammengeführt und dedupliziert. Der RRF und die Neubewertung der separaten Hybrid-Vorlage werden nicht automatisch angewendet. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Verändert RAG die LLM-Parameter?
Nein. Es stellt den Kontext zur Anforderungszeit bereit. Parameteränderungen gehören zum Training.
Kann ein Reranker ein nicht indiziertes Dokument reparieren?
Nein. Die Passage muss zunächst im Index und in der Kandidatenliste vorhanden sein.
Zu welchem Ergebnis soll diese Übung führen?
Notieren Sie die gewählte Route und ob tatsächlich Beweise verwendet wurden. Vergleichen Sie alle sechs Varianten zu identischen Fragen.
Wichtige Begriffe
- Abruf: Relevante Informationen in zugänglichen Quellen finden.
- Neu einordnen: Eine sorgfältigere Neuordnung der bereits abgerufenen Kandidaten.
- Regresie / Regression: Eine Änderung, die einen zuvor korrekten Fall aufhebt.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: R07 – Hybrid-RAG: Bedeutung und genaue Worte
Weiter mit: D04 – Gute Fragen zum Testen von RAG · E02 – RAG Schritt für Schritt bewerten · C03 – Ein Assistent für komplexe Dokumente