Begrenzte Autonomie und menschliches Eingreifen

Ein nützlicher Agent benötigt keine unbegrenzten Rechte. Ermöglichen Sie das Lesen und Verfassen von Texten und behalten Sie gleichzeitig die Kontrolle über die Folgemaßnahmen.

Dies ist ein konzeptionelles oder externes Labor. Es wird nicht davon ausgegangen, dass die Anwendung alle beschriebenen Steuerelemente verfügbar macht.

Wie es funktioniert, Schritt für Schritt

Eine begrenzte Agentenschleife

Ein Agent kombiniert ein Modell mit Werkzeugen, einem Ziel und einem Zustand. Es beobachtet die Anfrage, wählt einen Schritt, erhält ein Ergebnis und entscheidet, ob es fortfährt. Ein Chatbot darf nur Text generieren; Ein Agent kann eine externe Aktion anfordern. Kommerzielle Definitionen variieren. Überprüfen Sie daher die tatsächliche Kontrolle. Definieren Sie Erfolg und Stopp: ein überprüftes Ergebnis, eine maximale Schrittzahl, wiederholte Fehler oder ein ausgeschöpftes Budget. Verwenden Sie eingeschränkte Funktionen und minimale Berechtigungen. Nützliche Autonomie bedeutet Freiheit innerhalb der durch Software durchgesetzten Grenzen.

Überprüfen Sie den Zugang vor der Nutzung

Berechtigungen müssen von Servern und der Datenschicht durchgesetzt werden. Lassen Sie nicht das Modell entscheiden, ob ein Benutzer ein Dokument sehen darf. Filtern Sie Quellen, bevor sie in den Kontext gelangen, nicht nachdem die Antwort generiert wurde. Verwenden Sie Anmeldeinformationen mit minimalem Zugriff, halten Sie sie von Eingabeaufforderungen, Screenshots und Browsercode fern und rotieren Sie offengelegte Schlüssel. Eine Widget-Domain-Zulassungsliste ersetzt nicht die API-Authentifizierung. Durch die Authentifizierung werden Sie identifiziert; Die Autorisierung bestimmt die Vorgänge und Daten, die Sie verwenden können. Test verweigerte auch den Zugriff.

Fehler benötigen explizite Pfade

Ein Timeout unterscheidet sich von einem Berechtigungsfehler. Wiederholen Sie nur vorübergehende Fehler mit begrenzten Versuchen und zunehmenden Verzögerungen. Eine Operation mit Nebenwirkungen kann ausgeführt werden, bevor ihre Antwort verloren geht. Ein erneuter Versuch ohne Idempotenzschlüssel kann den Effekt duplizieren. Beim Streaming wird der Fortschritt angezeigt, es kann jedoch nicht garantiert werden, dass der Vorgang abgeschlossen ist. Prüfpunkte ermöglichen möglicherweise die Wiederaufnahme fehlgeschlagener Phasen innerhalb der Laufzeitgrenzen. Speichern Sie die Laufkennung, die Phase, die Dauer und den Fehler, während Sie Geheimnisse aus Protokollen entfernen. Messen Sie sowohl langsame Pfade als auch Durchschnittswerte.

Das erklärende Schaubild

Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Menschliche Zustimmung ist eine konzeptionelle Integrationskontrolle und keine eingebaute Folge der Bitte um Zustimmung in einer Aufforderung. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.

Ein vollständiges Beispiel

Der Agent schlägt nach Prüfung der Richtlinien eine Rückgabe vor. Sein Vorschlag umfasst Reihenfolge, Begründung und Bedingungen. Eine Rückerstattung ist ein separater Vorgang, der eine Autorisierung und Überprüfung erfordert.

Probieren Sie es selbst aus

1. Klassifizieren Sie Vorgänge als Lesen, Verfassen, reversible Änderung und irreversible Wirkung.
2. Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
3. Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
4. Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
5. Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.

Eine erklärte Lösung

Sie erhalten ein überprüfbares Angebot ohne automatische Transaktionen oder vermeintliches persistentes Gedächtnis. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.

Wann dieser Ansatz hilft und wo seine Grenzen liegen

Eine konzeptionelle Genehmigungskontrolle stellt ihre Präsenz in der Benutzeroberfläche nicht fest. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.

Überprüfen Sie Ihr Wissen

Führt mehr Autonomie immer zu einem besseren Ergebnis?

Nein. Es erhöht auch den Spielraum für Fehler, Kosten und unnötige Maßnahmen.

Warum wird eine private Quelle nach einer zu späten Antwort entfernt?

Die Daten sind bereits in den Modellkontext eingetreten und können offengelegt werden.

Zu welchem ​​Ergebnis soll diese Übung führen?

Sie erhalten ein überprüfbares Angebot ohne automatische Transaktionen oder vermeintliches persistentes Gedächtnis.

Wichtige Begriffe

• Agentin: Ein System, das Schritte auswählen und Werkzeuge einsetzen kann, um ein Ziel zu erreichen.
• Autorisierung / Autorisierung: Überprüfung des Zugriffsrechts auf einen Vorgang oder eine Ressource.
• Idempotenz: Kontrollierte Wiederholung ohne Duplizierung eines Effekts.

Quellen und Ihr nächster Schritt

• LangGraph — Workflows und Agenten
• OWASP — Prompt-Injection

Zur Vorbereitung: A05 – Websuche und Codeausführung