Autonomia limitata e intervento umano
Un agente utile non ha bisogno di diritti illimitati.
Cosa imparerai
- Spiegare: un ciclo agente limitato
- Applicare l'idea in un esempio: autonomia limitata e intervento umano
- Riconoscere i limiti e verificare il risultato dell'esercizio
Un agente utile non ha bisogno di diritti illimitati. Consenti la lettura e la stesura mantenendo il controllo sulle azioni consequenziali.
Questo è un laboratorio concettuale o esterno. Non presuppone che l'applicazione esponga tutti i controlli descritti.
Come funziona, passo dopo passo
Un ciclo agente limitato
Un agente combina un modello con strumenti, un obiettivo e uno stato. Osserva la richiesta, sceglie un passo, riceve un risultato e decide se proseguire. Un chatbot può generare solo testo; un agente può richiedere un'azione esterna. Le definizioni commerciali variano, quindi controlla il controllo effettivo. Definisci il successo e l'arresto: un risultato verificato, un numero massimo di passi, errori ripetuti o un budget esaurito. Utilizza funzionalità limitate e autorizzazioni minime. Autonomia utile significa libertà entro i confini imposti dal software.
Controllare l'accesso prima dell'uso
Le autorizzazioni devono essere applicate dai server e dal livello dati. Non lasciare che sia il modello a decidere se un utente può vedere un documento. Filtra le fonti prima che entrino nel contesto, non dopo aver generato la risposta. Utilizza credenziali di accesso minimo, tienile lontane da prompt, screenshot e codice del browser e ruota le chiavi esposte. Una lista consentita di domini widget non sostituisce l'autenticazione API. L'autenticazione ti identifica; l'autorizzazione determina le operazioni e i dati che puoi utilizzare. Prova anche l'accesso negato.
Gli errori necessitano di percorsi espliciti
Un timeout è diverso da un errore di autorizzazione. Riprova solo errori temporanei, con tentativi limitati e ritardi crescenti. Un'operazione con effetti collaterali può essere eseguita prima che la sua risposta venga persa; riprovare senza una chiave di idempotenza può duplicare l'effetto. Lo streaming mostra l'avanzamento ma non garantisce il completamento. I checkpoint possono consentire la ripresa delle fasi non riuscite entro i limiti di runtime. Memorizza l'identificatore dell'esecuzione, la fase, la durata e l'errore rimuovendo i segreti dai log. Misura i percorsi lenti e le medie.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. L'approvazione umana è un controllo di integrazione concettuale, non una conseguenza intrinseca della richiesta di approvazione in un prompt. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
L'agente propone un reso dopo aver verificato la politica. La sua proposta comprende ordine, ragione e condizioni. Un rimborso è un'operazione separata che richiede autorizzazione e verifica.
Provalo tu stesso
- Classificare le operazioni in lettura, stesura, cambiamento reversibile ed effetto irreversibile.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Ottieni una proposta verificabile senza transazioni automatiche o presunta memoria persistente. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
Un controllo di approvazione concettuale non ne stabilisce la presenza nell'interfaccia utente. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Una maggiore autonomia dà sempre un risultato migliore?
No. Aumenta anche lo spazio per errori, costi e azioni non necessarie.
Perché rimuovere una fonte privata dopo aver risposto è troppo tardi?
I dati sono già entrati nel contesto del modello e possono essere divulgati.
Quale risultato dovrebbe produrre questo esercizio?
Ottieni una proposta verificabile senza transazioni automatiche o presunta memoria persistente.
Termini da ricordare
- Agente: un sistema in grado di scegliere passaggi e utilizzare strumenti per raggiungere un obiettivo.
- Autorizzare/Autorizzazione: verifica del diritto di accesso a un'operazione o risorsa.
- Idempotenza: Ripetizione controllata senza duplicare un effetto.
Fonti e il prossimo passo
Per preparare: A05 — Ricerca sul Web ed esecuzione di codice