Was ist RAG und warum ist es nützlich?

RAG ist wie ein Kollege, der einen Ordner öffnet, bevor er antwortet. Überprüfen Sie, ob die richtige Seite gefunden wird und deren Bedeutung erhalten bleibt.

Sie können diesen Kurs ohne Konto oder Programmierung absolvieren. Beispiele verwenden synthetische Daten und KI-Ergebnisse müssen überprüft werden.

Wie es funktioniert, Schritt für Schritt

RAG greift auf Beweise zu, es führt keine Umschulung durch

RAG bedeutet Retrieval-Augmented Generation: Retrieval liefert relevante Passagen, bevor das Modell antwortet. Die Aufnahme bereitet Dokumente vor, während die Abfrageausführung den Index durchsucht und den Kontext erstellt. Ein Einbettungsmodell stellt Text numerisch dar; Das Antwortmodell schreibt die Antwort. Reranker-, Vision-, Graph- und Router-Modelle übernehmen bei Bedarf unterschiedliche Rollen. RAG hilft bei privaten oder sich ändernden Informationen, übernimmt jedoch keine Gewähr für die Richtigkeit. Verwenden Sie eine autorisierte API für Salden, genaue Bestände oder Berechtigungen; Ein altes Dokument ist keine verlässliche Quelle für den aktuellen Stand.

Gute Dokumente kommen vor guten Antworten

Bereiten Sie lesbaren Text, klare Überschriften, Tabellen mit Überschriften und Quellen ohne unnötige Duplikate vor. Chunking unterteilt ein Dokument in separat abrufbare Passagen; Überlappung bewahrt die Kontinuität zwischen Nachbarn. Ein kleiner Brocken kann Bedingungen verlieren, während ein großer Brocken Rauschen verursacht. Metadaten bewahren Quelle, Position und Version sowie den Zugriffsbereich, sofern dies durch die Implementierung erzwungen wird. Beim Hochladen wird die Datei gespeichert. Die Indizierung macht es durchsuchbar. Wenn sich eine Quelle ändert, prüfen Sie, ob alte Blöcke verschwinden und neue abgerufen werden, bevor Sie die Wissensdatenbank als aktuell erklären.

Geläufigkeit und Wahrheit werden getrennt geprüft

Eine Halluzination ist ein nicht unterstützter oder falscher Inhalt, der als Antwort präsentiert wird. Es kann durch fehlende Informationen, Unklarheiten oder falsch kombinierte Muster entstehen. Fordern Sie Belege an und überprüfen Sie Originaldokument, Datum, Einheiten und Bedingungen. Ein echtes Zitat kann die Behauptung möglicherweise immer noch nicht stützen. Verwenden Sie aktuelle Quellen für aktuelle Fakten, einen Taschenrechner für die Arithmetik und „kann nicht feststellen“, wann Beweise fehlen. Behandeln Sie das in Prosa zum Ausdruck gebrachte Vertrauen nicht als kalibrierte Wahrscheinlichkeit.

Das erklärende Schaubild

Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Der Abruf gibt Beweise zurück. Wenn ein Antwortmodell aktiviert ist, erstellt es auch eine Antwort; sichergestellte Beweise müssen noch überprüft werden. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.

Ein vollständiges Beispiel

Laden Sie die fiktive Richtlinie hoch, indizieren Sie sie und fragen Sie dann nach der Frist. Der Abruf liefert die 14-tägige Passage an das Modell. Eine Garantiefrage, die in der Quelle fehlt, muss als fehlende Information behandelt werden.

Probieren Sie es selbst aus

1. Zeichnen Sie Aufnahme und Abfrageausführung separat für die Rückgaberichtlinie.
2. Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
3. Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
4. Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
5. Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.

Eine erklärte Lösung

Die Antwort kann anhand der Passage überprüft werden; Nicht unterstützte Fragen erhalten kein erfundenes Versprechen. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.

Wann dieser Ansatz hilft und wo seine Grenzen liegen

Indexierung und Beantwortung sind getrennte Pfade mit unterschiedlichen Fehlermodi. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.

Überprüfen Sie Ihr Wissen

Verändert RAG die LLM-Parameter?

Nein. Es stellt den Kontext zur Anforderungszeit bereit. Parameteränderungen gehören zum Training.

Bedeutet der abgeschlossene Upload, dass ein Dokument für RAG bereit ist?

Nein. Extraktion, Chunking und Indizierung müssen ebenfalls erfolgreich abgeschlossen werden.

Zu welchem ​​Ergebnis soll diese Übung führen?

Die Antwort kann anhand der Passage überprüft werden; Nicht unterstützte Fragen erhalten kein erfundenes Versprechen.

Wichtige Begriffe

• Abruf: Relevante Informationen in zugänglichen Quellen finden.
• Brocken: Eine Dokumentpassage, die separat abgerufen werden kann.
• Erdung: Eine Antwort auf nachprüfbare Beweise stützen.

Quellen und Ihr nächster Schritt

• Lewis et al. — Retrieval-Augmented Generation
• Hugging Face — LLM-Kurs

Zur Vorbereitung: F03 – Was ist ein LLM und wie funktioniert es? · P02 – Kontext-Engineering: Was erreicht das Modell? · P07 – Prompt, RAG oder Feinabstimmung?