Acțiuni cu efecte și aprobări umane
Citirea, redactarea și executarea unei tranzacții au riscuri diferite.
Ce vei învăța
- Explici: modelul propune, unealta execută
- Aplici ideea într-un exemplu: Acțiuni cu efecte și aprobări umane
- Recunoști limitele și verifici rezultatul exercițiului
Citirea, redactarea și executarea unei tranzacții au riscuri diferite. Separă propunerea de acțiunea cu efect.
Acesta este un laborator conceptual sau extern. Nu presupune că aplicația oferă toate controalele descrise.
Cum funcționează, pas cu pas
Modelul propune, unealta execută
Tool calling produce o cerere de apel cu nume și argumente. Aplicația validează schema, drepturile și limitele înainte să execute. Rezultatul se întoarce în context pentru pasul următor. De exemplu, get_product_stock primește un SKU și returnează o cantitate; descrierea sa trebuie să precizeze că nu rezervă produse. Distinge rezultat gol, eroare de validare, lipsă de acces și timeout. JSON valid nu dovedește că argumentele sunt corecte sau că operația este autorizată. Pentru efecte externe verifică și riscul de repetare.
Accesul se verifică înainte de folosire
Permisiunile trebuie aplicate în server și în stratul de date. Nu lăsa modelul să decidă dacă un utilizator poate vedea un document. Filtrează sursele înainte să intre în context, nu după generarea răspunsului. Folosește chei cu acces minim, nu le pune în prompturi, capturi sau cod din browser și rotește-le dacă sunt expuse. O listă de domenii permise pentru widget nu înlocuiește autentificarea API. Autentificarea arată cine ești; autorizarea arată ce operații și date poți folosi. Testează și accesul refuzat.
Erorile au nevoie de trasee explicite
Un timeout nu este același lucru cu o eroare de permisiune. Reîncearcă doar erorile tranzitorii, cu un număr limitat de încercări și pauze crescătoare. O operație cu efecte poate fi executată înainte ca răspunsul să se piardă; repetarea fără cheie de idempotency poate dubla efectul. Streaming arată progresul, dar nu garantează finalizarea. Checkpoint-urile pot permite reluarea etapelor eșuate, în limitele runtime-ului. Păstrează identificatorul rulării, etapa, durata și eroarea, eliminând secretele din logs. Măsoară și cel mai lent traseu, nu doar media.
Harta vizuală
Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Aprobarea umană este un concept de integrare; un prompt care cere aprobare nu impune singur controlul. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.
Un exemplu complet
„Poți anula comanda?” poate începe cu citirea și un preview. Execuția trebuie să confirme identificatorul, efectul și autorizarea; un răspuns de model nu reprezintă aprobarea utilizatorului.
Încearcă tu
- Desenează un flux de anulare cu preview, aprobare și protecție împotriva dublării.
- Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
- Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
- Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
- Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.
Soluție comentată
Acțiunea nu se execută fără controlul necesar, iar auditul distinge propunere și executare. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.
Când merită și ce poate merge prost
Exemplul este arhitectural; nu presupune un control de aprobare implementat în UI. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.
Verifică ce ai înțeles
Cine execută apelul propus de model?
Aplicația sau serviciul gazdă, după validare. Modelul nu primește automat acces nelimitat.
De ce este prea târziu să elimini sursa privată după răspuns?
Pentru că datele au intrat deja în contextul modelului și pot fi divulgate.
Ce rezultat trebuie să obții în acest exercițiu?
Acțiunea nu se execută fără controlul necesar, iar auditul distinge propunere și executare.
Cuvinte de ținut minte
- Tool calling: Cerere structurată de folosire a unei capabilități externe.
- Autorizare / Authorization: Verificarea dreptului la o operație sau resursă.
- Idempotency: Repetarea controlată fără duplicarea efectului.
Surse și următorul pas
Pentru pregătire: S02 — Permisiuni și protejarea datelor