Kontext und Gedächtnis: Was sieht KI?
Der Kontext ist die Werkbank des Modells.
Was Sie lernen werden
- Erklären Sie: Der Kontext ist die Werkbank
- Wenden Sie die Idee an einem Beispiel an: Kontext und Erinnerung: Was sieht KI?
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Der Kontext ist die Werkbank des Modells. Speicher ist das, was die Anwendung behält und an die Workbench zurückgibt.
Sie können diesen Kurs ohne Konto oder Programmierung absolvieren. Beispiele verwenden synthetische Daten und KI-Ergebnisse müssen überprüft werden.
Wie es funktioniert, Schritt für Schritt
Der Kontext ist die Werkbank
Der Kontext umfasst Anweisungen, die aktuelle Anfrage, den relevanten Verlauf, abgerufene Dokumente und Toolergebnisse. Das Kontextfenster hat eine begrenzte Kapazität. Reservieren Sie auch Platz für die Antwort. Mehr Text verbessert nicht automatisch die Genauigkeit. Irrelevante Informationen und Widersprüche können wichtige Beweise verbergen. Fassen Sie den Gesprächsverlauf sorgfältig zusammen und bewahren Sie den Ursprung der Fakten. Der Status beschreibt den aktuellen Lauf, ein Prüfpunkt speichert einen fortsetzbaren Punkt und der persistente Speicher behält Informationen über alle Läufe hinweg. Hierbei handelt es sich um verschiedene Mechanismen, die von der Anwendung verwaltet werden.
Eine Anweisung ist ein Vertrag
Eine gute Eingabeaufforderung gibt die Aufgabe, die verfügbaren Daten, das Ausgabeformat und die Erfolgskriterien an. Trennen Sie die Rolle von den Daten und fügen Sie ein Beispiel für mehrdeutige Fälle bei. „Seien Sie genau“ ist schwächer als „Geben Sie in der bereitgestellten Police nur die Frist an; wenn etwas fehlt, bitten Sie um Klarstellung“. Wenige Aufnahmen bedeuten ein paar gelöste Beispiele, keine endlose Liste. Der Dokumentinhalt bleibt Daten, auch wenn er Befehle enthält. Trennzeichen helfen, aber die Software muss Berechtigungen und Validierung erzwingen, anstatt sich auf die Eingabeaufforderung zu verlassen.
Geläufigkeit und Wahrheit werden getrennt geprüft
Eine Halluzination ist ein nicht unterstützter oder falscher Inhalt, der als Antwort präsentiert wird. Es kann durch fehlende Informationen, Unklarheiten oder falsch kombinierte Muster entstehen. Fordern Sie Belege an und überprüfen Sie Originaldokument, Datum, Einheiten und Bedingungen. Ein echtes Zitat kann die Behauptung möglicherweise immer noch nicht stützen. Verwenden Sie aktuelle Quellen für aktuelle Fakten, einen Taschenrechner für die Arithmetik und „kann nicht feststellen“, wann Beweise fehlen. Behandeln Sie das in Prosa zum Ausdruck gebrachte Vertrauen nicht als kalibrierte Wahrscheinlichkeit.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
In einem Gespräch identifizieren Sie das Produkt LX-240. „Welches Teil passt?“ macht dort Sinn, aber einer neuen Konversation fehlt die Kennung. Das Fortsetzen eines Prüfpunkts unterscheidet sich vom Abrufen einer dauerhaften Präferenz.
Probieren Sie es selbst aus
- Vergleichen Sie eine Frage in zwei Gesprächen und zeichnen Sie deren verfügbaren Kontext auf.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Fragen Sie im neuen Gespräch nach dem Produktmodell. Gehen Sie nicht davon aus, dass die Anwendung die Einstellungen über Konversationen hinweg beibehält. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Eine lange Historie kann abgelaufene Fakten enthalten. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Ist ein Checkpoint ein permanenter Benutzerspeicher?
Nein. Das Speichern eines Laufs bedeutet nicht, dass die Präferenzen in allen Gesprächen beibehalten werden.
Kann eine Eingabeaufforderung die Zugangskontrolle ersetzen?
Nein. Eine Anweisung ist keine Berechtigungsgrenze.
Zu welchem Ergebnis soll diese Übung führen?
Fragen Sie im neuen Gespräch nach dem Produktmodell. Gehen Sie nicht davon aus, dass die Anwendung die Einstellungen über Konversationen hinweg beibehält.
Wichtige Begriffe
- Kontrollpunkt: Gespeicherter Zustand, der zum Fortsetzen einer Ausführung verwendet wird.
- Wenige Schüsse: Gelöste Beispiele im Kontext bereitgestellt.
- Erdung: Eine Antwort auf nachprüfbare Beweise stützen.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: F03 – Was ist ein LLM und wie funktioniert es?