Prompt, RAG oder Feinabstimmung?

Diese Methoden verändern verschiedene Dinge. Wählen Sie basierend darauf, ob es sich bei dem Problem um Anweisungen, Fakten oder wiederholtes Verhalten handelt.

Sie können diesen Kurs ohne Konto oder Programmierung absolvieren. Beispiele verwenden synthetische Daten und KI-Ergebnisse müssen überprüft werden.

Wie es funktioniert, Schritt für Schritt

Anleitung, Wissen und Anpassung

Eine sofortige Änderungsanforderung mit Anweisungen und Beispielen. RAG ändert verfügbare Beweise, ohne das Modell zu ändern. Die Feinabstimmung passt Parameter für wiederholte Verhaltensweisen oder Aufgaben an und erfordert hochwertige Daten und Auswertungen. LoRA/PEFT trainiert einen kleineren Parametersatz für eine effiziente Anpassung. Durch die Destillation wird das Verhalten von einem Modell auf ein anderes übertragen; Die Quantisierung verringert die numerische Präzision für eine effiziente Inferenz, allerdings mit Kompromissen. None repariert automatisch falsche Quellen. Bei sich häufig ändernden Regeln ist die Aktualisierung von Dokumenten in der Regel einfacher zu überprüfen als eine Neuschulung.

RAG greift auf Beweise zu, es führt keine Umschulung durch

RAG bedeutet Retrieval-Augmented Generation: Retrieval liefert relevante Passagen, bevor das Modell antwortet. Die Aufnahme bereitet Dokumente vor, während die Abfrageausführung den Index durchsucht und den Kontext erstellt. Ein Einbettungsmodell stellt Text numerisch dar; Das Antwortmodell schreibt die Antwort. Reranker-, Vision-, Graph- und Router-Modelle übernehmen bei Bedarf unterschiedliche Rollen. RAG hilft bei privaten oder sich ändernden Informationen, übernimmt jedoch keine Gewähr für die Richtigkeit. Verwenden Sie eine autorisierte API für Salden, genaue Bestände oder Berechtigungen; Ein altes Dokument ist keine verlässliche Quelle für den aktuellen Stand.

Definieren Sie den Erfolg vor der Optimierung

Bereiten Sie repräsentative Anfragen und erwartete Antworten oder Eigenschaften vor. Berücksichtigen Sie normale Fälle, Unklarheiten, fehlende Daten und Toolfehler. Messen Sie für RAG die Beweisgewinnung getrennt von der Antwortkorrektheit. Recall@k misst den Anteil relevanter Beweise, die in den ersten k Ergebnissen gefunden wurden; precision@k misst den Anteil der zurückgegebenen Ergebnisse, die relevant sind. Verfolgen Sie für Agenten auch Aktionen, Berechtigungen und Stopps. Ein LLM als Richter kann die Bewertung beschleunigen, muss jedoch mit Menschen verglichen werden. Ändern Sie Eingabeaufforderung, Modell und Index nicht gleichzeitig, wenn Sie verstehen möchten, was zu verbesserten Ergebnissen führt.

Das erklärende Schaubild

Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.

Ein vollständiges Beispiel

Ein zu technischer Ton erfordert klarere Anweisungen. Eine neue Richtlinie erfordert aktualisierte Quellen und RAG. Wiederholte spezielle Formatierungen können eine Feinabstimmung rechtfertigen, nachdem einfachere Optionen evaluiert wurden.

Probieren Sie es selbst aus

1. Wählen Sie eine Lösung für Ton, Live-Bestand, eine neue Richtlinie und wiederholte Formatierung.
2. Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
3. Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
4. Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
5. Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.

Eine erklärte Lösung

Verwenden Sie Eingabeaufforderungen für Anforderungen, RAG für Dokumente und Anpassungen nur mit ausreichenden Daten und Auswertungen. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.

Wann dieser Ansatz hilft und wo seine Grenzen liegen

Bei der Feinabstimmung handelt es sich nicht um eine Live-Datenbank. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.

Überprüfen Sie Ihr Wissen

Ist Feinabstimmung die erste Wahl für den aktuellen Bestand?

Nein. Verwenden Sie eine autorisierte Live-Quelle für sich schnell ändernde Informationen.

Verändert RAG die LLM-Parameter?

Nein. Es stellt den Kontext zur Anforderungszeit bereit. Parameteränderungen gehören zum Training.

Zu welchem ​​Ergebnis soll diese Übung führen?

Verwenden Sie Eingabeaufforderungen für Anforderungen, RAG für Dokumente und Anpassungen nur mit ausreichenden Daten und Auswertungen.

Wichtige Begriffe

• Feinabstimmung: Modellparameter anhand aufgabenspezifischer Beispiele anpassen.
• Abruf: Relevante Informationen in zugänglichen Quellen finden.
• Regresie / Regression: Eine Änderung, die einen zuvor korrekten Fall aufhebt.

Quellen und Ihr nächster Schritt

• Hugging Face — PEFT
• Lewis et al. — Retrieval-Augmented Generation
• LangGraph — Workflows und Agenten

Zur Vorbereitung: P06 – Begründung und Überprüfung