Naive RAG: Ihre Grundlinie
Naive RAG ist eine klare Basislinie: semantischer Abruf, Kontextassemblierung und -generierung.
Was Sie lernen werden
- Erklären Sie: Rag greift auf Beweise zu, es führt keine Umschulung durch
- Wenden Sie die Idee in einem Beispiel an: Naive RAG: Ihre Grundlinie
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Naive RAG ist eine klare Basislinie: semantischer Abruf, Kontextassemblierung und -generierung. Eine geringe Komplexität erleichtert die Diagnose.
Diese Schritte beziehen sich auf im Anwendungscode identifizierte Funktionen. Dieses Material wurde nicht in einer Live-Instanz validiert; Überprüfen Sie die Dokumentation und die Optionen in Ihrer Version.
Wie es funktioniert, Schritt für Schritt
RAG greift auf Beweise zu, es führt keine Umschulung durch
RAG bedeutet Retrieval-Augmented Generation: Retrieval liefert relevante Passagen, bevor das Modell antwortet. Die Aufnahme bereitet Dokumente vor, während die Abfrageausführung den Index durchsucht und den Kontext erstellt. Ein Einbettungsmodell stellt Text numerisch dar; Das Antwortmodell schreibt die Antwort. Reranker-, Vision-, Graph- und Router-Modelle übernehmen bei Bedarf unterschiedliche Rollen. RAG hilft bei privaten oder sich ändernden Informationen, übernimmt jedoch keine Gewähr für die Richtigkeit. Verwenden Sie eine autorisierte API für Salden, genaue Bestände oder Berechtigungen; Ein altes Dokument ist keine verlässliche Quelle für den aktuellen Stand.
Koordinaten für Bedeutung
Eine Einbettung ist ein numerischer Vektor, der von einem Modell berechnet wird. Texte mit verwandten Bedeutungen liegen im Raum dieses Modells tendenziell nahe beieinander, Ähnlichkeit garantiert jedoch keine Relevanz. Abfragen und Dokumente müssen einen kompatiblen Bereich teilen: passendes Modell und passende Abmessungen. Zur Veranschaulichung dient eine zweiachsige Karte; Reale Vektoren können Hunderte oder Tausende von Dimensionen haben. Erstellen Sie den Index neu und testen Sie ihn erneut, wenn Sie das Modell oder die Abmessungen ändern. Kosinusähnlichkeit vergleicht Vektorrichtungen; es ist nicht die Wahrscheinlichkeit, dass eine Antwort wahr ist.
Definieren Sie den Erfolg vor der Optimierung
Bereiten Sie repräsentative Anfragen und erwartete Antworten oder Eigenschaften vor. Berücksichtigen Sie normale Fälle, Unklarheiten, fehlende Daten und Toolfehler. Messen Sie für RAG die Beweisgewinnung getrennt von der Antwortkorrektheit. Recall@k misst den Anteil relevanter Beweise, die in den ersten k Ergebnissen gefunden wurden; precision@k misst den Anteil der zurückgegebenen Ergebnisse, die relevant sind. Verfolgen Sie für Agenten auch Aktionen, Berechtigungen und Stopps. Ein LLM als Richter kann die Bewertung beschleunigen, muss jedoch mit Menschen verglichen werden. Ändern Sie Eingabeaufforderung, Modell und Index nicht gleichzeitig, wenn Sie verstehen möchten, was zu verbesserten Ergebnissen führt.
Detailliertes Labor
Testen Sie das Abrufen vor dem Schreiben
Nutzen Sie die gleichen Katalog-, Liefer- und Policenbestimmungen. Fragen Sie nach der Indexierung: „Was ist die Frist für ein unbenutztes Produkt?“ Der Abruf sollte unter Angabe der Frist und der Bedingungen erfolgen. Überprüfen Sie dann, ob die Antwort sie beibehält, ohne Ausnahmen zu erfinden.
Fragen Sie „Welche kommerzielle Garantie gilt?“ Das Korpus enthält keine derartigen Informationen. Ein gutes Ergebnis erkennt diese Abwesenheit an. Wenn der Abruf die Richtlinie verfehlt, diagnostizieren Sie Quelle und Index. Wenn eine Richtlinie gefunden wird, die Antwort sie jedoch ignoriert, überprüfen Sie den Kontext und die Generierung.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Der Abruf gibt Beweise zurück. Wenn ein Antwortmodell aktiviert ist, erstellt es auch eine Antwort; sichergestellte Beweise müssen noch überprüft werden. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
Sie verfügen über Policen, Kataloge und Lieferdokumente. Beginnen Sie mit top_k=4 und fragen Sie nach der Rückgabefrist. Überprüfen Sie, ob die richtige Passage den Kontext erreicht, bevor Sie die Eingabeaufforderung ändern.
template: Naive
top_k: 4
Probieren Sie es selbst aus
- Erstellen Sie Naive RAG, wählen Sie Einbettungs- und Antwortmodelle, laden Sie Daten hoch und testen Sie sie nach der Indizierung.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Die Richtlinienpassage wird abgerufen und die Antwort behält 14 Tage und Bedingungen. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Größere top_k können auch irrelevanten Kontext hinzufügen. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Verändert RAG die LLM-Parameter?
Nein. Es stellt den Kontext zur Anforderungszeit bereit. Parameteränderungen gehören zum Training.
Können Sie Vektoren aus verschiedenen Modellen direkt vergleichen?
Im Allgemeinen nein; Ihre Leerzeichen sind nicht automatisch kompatibel.
Zu welchem Ergebnis soll diese Übung führen?
Die Richtlinienpassage wird abgerufen und die Antwort behält 14 Tage und Bedingungen.
Wichtige Begriffe
- Abruf: Relevante Informationen in zugänglichen Quellen finden.
- Einbetten: Eine numerische Darstellung, die zum Vergleichen von Inhalten verwendet wird.
- Regresie / Regression: Eine Änderung, die einen zuvor korrekten Fall aufhebt.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: R02 – Einbettungen und Vektorsuche