Warum antwortet RAG schlecht?
Reparieren Sie die fehlgeschlagene Phase.
Was Sie lernen werden
- Erklären Sie: Gute Dokumente kommen vor guten Antworten
- Wenden Sie die Idee in einem Beispiel an: Warum antwortet RAG schlecht?
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Reparieren Sie die fehlgeschlagene Phase. Schnelle Änderungen helfen nicht, wenn notwendige Beweise nie in den Kontext gelangen.
Sie können diesen Kurs ohne Konto oder Programmierung absolvieren. Beispiele verwenden synthetische Daten und KI-Ergebnisse müssen überprüft werden.
Wie es funktioniert, Schritt für Schritt
Gute Dokumente kommen vor guten Antworten
Bereiten Sie lesbaren Text, klare Überschriften, Tabellen mit Überschriften und Quellen ohne unnötige Duplikate vor. Chunking unterteilt ein Dokument in separat abrufbare Passagen; Überlappung bewahrt die Kontinuität zwischen Nachbarn. Ein kleiner Brocken kann Bedingungen verlieren, während ein großer Brocken Rauschen verursacht. Metadaten bewahren Quelle, Position und Version sowie den Zugriffsbereich, sofern dies durch die Implementierung erzwungen wird. Beim Hochladen wird die Datei gespeichert. Die Indizierung macht es durchsuchbar. Wenn sich eine Quelle ändert, prüfen Sie, ob alte Blöcke verschwinden und neue abgerufen werden, bevor Sie die Wissensdatenbank als aktuell erklären.
Suche und Ranking sind verschiedene Phasen
Beim Retrieval werden Kandidaten ausgewählt und nach einer Rangfolge sortiert. top_k ist die Anzahl der angeforderten Ergebnisse; Eine Erhöhung kann zu Beweisen, aber auch zu Lärm führen. Ein Reranker untersucht die Anfrage und die Kandidaten genauer. Es kann keine Passage wiederherstellen, die in der ursprünglichen Liste fehlt. BM25 sucht nach lexikalischen Übereinstimmungen und hilft bei exakten Codes; Die Vektorsuche sucht nach semantischer Ähnlichkeit. RRF kombiniert Positionen in Ranglisten, anstatt Punkte mit inkompatiblen Einheiten zu addieren. Zusätzliche Stufen müssen ihre Qualität, Latenz und Kosten durch Tests rechtfertigen.
Geläufigkeit und Wahrheit werden getrennt geprüft
Eine Halluzination ist ein nicht unterstützter oder falscher Inhalt, der als Antwort präsentiert wird. Es kann durch fehlende Informationen, Unklarheiten oder falsch kombinierte Muster entstehen. Fordern Sie Belege an und überprüfen Sie Originaldokument, Datum, Einheiten und Bedingungen. Ein echtes Zitat kann die Behauptung möglicherweise immer noch nicht stützen. Verwenden Sie aktuelle Quellen für aktuelle Fakten, einen Taschenrechner für die Arithmetik und „kann nicht feststellen“, wann Beweise fehlen. Behandeln Sie das in Prosa zum Ausdruck gebrachte Vertrauen nicht als kalibrierte Wahrscheinlichkeit.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
Ist der Text im PDF? Wurde es extrahiert? Existiert der Block? Ist es ein Kandidat geworden? Ist es im Kontext? Wird es in der Antwort richtig verwendet? Bei diesen Prüfungen werden sechs Ursachen unterschieden.
Probieren Sie es selbst aus
- Diagnostizieren Sie leere Extraktion, niedriges Ranking, abgeschnittene Bedingungen, veraltete Quellen und erfundene Behauptungen.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Identifizieren Sie die erste Stufe mit fehlenden oder falschen Daten und testen Sie eine gezielte Änderung. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Durch Erhöhen von top_k kann die leere Extraktion nicht behoben werden. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Bedeutet der abgeschlossene Upload, dass ein Dokument für RAG bereit ist?
Nein. Extraktion, Chunking und Indizierung müssen ebenfalls erfolgreich abgeschlossen werden.
Kann ein Reranker ein nicht indiziertes Dokument reparieren?
Nein. Die Passage muss zunächst im Index und in der Kandidatenliste vorhanden sein.
Zu welchem Ergebnis soll diese Übung führen?
Identifizieren Sie die erste Stufe mit fehlenden oder falschen Daten und testen Sie eine gezielte Änderung.
Wichtige Begriffe
- Brocken: Eine Dokumentpassage, die separat abgerufen werden kann.
- Neu einordnen: Eine sorgfältigere Neuordnung der bereits abgerufenen Kandidaten.
- Erdung: Eine Antwort auf nachprüfbare Beweise stützen.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: D04 – Gute Fragen zum Testen von RAG