Gevolgacties en menselijke goedkeuring
Het lezen, opstellen en uitvoeren van transacties brengt verschillende risico's met zich mee.
Wat je gaat leren
- Leg uit: het model doet voorstellen, de tool voert uit
- Pas het idee toe in een voorbeeld: gevolgacties en menselijke goedkeuring
- Herken beperkingen en verifieer het resultaat van de oefening
Het lezen, opstellen en uitvoeren van transacties brengt verschillende risico's met zich mee. Scheid een voorstel van de daaropvolgende uitvoering.
Dit is een conceptueel of extern laboratorium. Er wordt niet van uitgegaan dat de toepassing elk beschreven besturingselement blootlegt.
Hoe het werkt, stap voor stap
Het model doet voorstellen, de tool voert uit
Tool calling produceert een oproepverzoek met een naam en argumenten. De applicatie valideert het schema, de machtigingen en de limieten vóór uitvoering. Het resultaat keert terug naar de context voor de volgende stap. get_product_stock neemt bijvoorbeeld een SKU en retourneert een hoeveelheid; in de beschrijving moet worden uitgelegd dat er geen producten worden gereserveerd. Onderscheid lege resultaten, validatiefouten, ontbrekende toegang en time-outs. Geldige JSON bewijst niet dat de argumenten correct zijn of dat de actie is geautoriseerd. Houd bij externe effecten ook rekening met dubbele uitvoering.
Controleer de toegang vóór gebruik
Machtigingen moeten worden afgedwongen door servers en de gegevenslaag. Laat het model niet beslissen of een gebruiker een document mag zien. Filter bronnen voordat ze in de context terechtkomen, niet nadat het antwoord is gegenereerd. Gebruik inloggegevens voor minimale toegang, houd deze buiten prompts, schermafbeeldingen en browsercode en draai blootgestelde sleutels. Een toelatingslijst voor widgetdomeinen vervangt API-authenticatie niet. Authenticatie identificeert u; autorisatie bepaalt welke handelingen en gegevens u kunt gebruiken. Test ook toegang geweigerd.
Fouten hebben expliciete paden nodig
Een time-out verschilt van een toestemmingsfout. Probeer alleen tijdelijke fouten opnieuw, met beperkte pogingen en toenemende vertragingen. Een operatie met bijwerkingen kan worden uitgevoerd voordat de respons verloren gaat; Opnieuw proberen zonder een idempotentiesleutel kan het effect dupliceren. Streaming toont voortgang, maar garandeert geen voltooiing. Controlepunten kunnen ervoor zorgen dat mislukte fasen binnen de looptijdlimieten worden hervat. Bewaar de run-ID, fase, duur en fout terwijl u geheimen uit logboeken verwijdert. Meet zowel langzame paden als gemiddelden.
Het verklarende schema
Volg de ononderbroken pijlen voor de hoofdstroom. Gestippelde blauwe pijlen leveren gegevens of context; roze pijlen geven feedback of geretourneerde resultaten weer. Kleuren en vormen onderscheiden modellen, winkels, beslissingen en resultaten. Menselijke goedkeuring is een applicatie-integratieconcept; een verzoek om goedkeuring is geen handhaving. Scrol op kleine schermen horizontaal om het hele schema te volgen.
Een compleet voorbeeld
“Kun je de bestelling annuleren?” kan beginnen met lezen en een voorbeeld bekijken. De uitvoering moet de identificatie, het effect en de autorisatie bevestigen; een modelreactie is geen goedkeuring van de gebruiker.
Probeer het zelf
- Teken een annuleringsstroom met preview, goedkeuring en bescherming tegen dubbele effecten.
- Leg de input, bron en verwachte uitkomst vast voordat u het experiment uitvoert. Gebruik alleen de fictieve gegevens in het voorbeeld.
- Volg de diagramfasen. Registreer bij elke stap welke informatie wordt ontvangen en geproduceerd; verwar de tussentijdse output niet met het uiteindelijke resultaat.
- Herhaal dit nadat de noodzakelijke informatie is verwijderd of de invoer dubbelzinnig is gemaakt. Controleer of het systeem een antwoord verduidelijkt, stopt of verzint.
- Vergelijk met de uitgelegde oplossing. Bewaar de configuratie, datum, resultaat en een verklaring voor verschillen. Verander één ding en test opnieuw.
Een uitgelegde oplossing
De actie wordt niet uitgevoerd zonder de vereiste controle; audit scheidt voorstel en uitvoering. Met een succesvolle oefening kun je het verband tussen input, fasen en uitkomst laten zien. Als er informatie ontbreekt, is een voorzichtig antwoord nuttiger dan verzonnen details. Vergelijk meer dan stijl: controleer ook voorwaarden, bronnen en bewerkingen.
Wanneer deze aanpak helpt en wat de beperkingen zijn
Dit is een architectonisch voorbeeld; er wordt niet uitgegaan van een geïmplementeerde UI-goedkeuringscontrole. Kies deze aanpak wanneer deze een gemeten behoefte verbetert. Houd een eenvoudige basislijn aan en vergelijk de resultaten met behulp van identieke inputs. Eén succesvol voorbeeld garandeert niet in elke situatie betrouwbaarheid.
Controleer wat je hebt geleerd
Wie voert een door het model voorgestelde oproep uit?
De applicatie of hostservice na validatie. Het model krijgt niet automatisch onbeperkte toegang.
Waarom is het verwijderen van een privébron na het beantwoorden te laat?
De gegevens zijn al in de modelcontext terechtgekomen en kunnen worden vrijgegeven.
Welk resultaat moet deze oefening opleveren?
De actie wordt niet uitgevoerd zonder de vereiste controle; audit scheidt voorstel en uitvoering.
Begrippen om te onthouden
- Gereedschap bellen: Een gestructureerd verzoek om een externe mogelijkheid te gebruiken.
- Autorisatie / Autorisatie: het recht op toegang tot een bewerking of bron controleren.
- Idempotentie: Gecontroleerde herhaling zonder een effect te dupliceren.
Bronnen en uw volgende stap
Ter voorbereiding: S02 — Machtigingen en gegevensbescherming