Autonomie limitée et intervention humaine
Un agent utile n’a pas besoin de droits illimités.
Ce que vous apprendrez
- Expliquer : une boucle d'agent limitée
- Appliquer l'idée dans un exemple : autonomie limitée et intervention humaine
- Reconnaître les limites et vérifier le résultat de l'exercice
Un agent utile n’a pas besoin de droits illimités. Permettre la lecture et la rédaction tout en gardant le contrôle des actions conséquentes.
Il s’agit d’un laboratoire conceptuel ou externe. Cela ne suppose pas que l’application expose tous les contrôles décrits.
Comment ça marche, étape par étape
Une boucle d'agent limitée
Un agent combine un modèle avec des outils, un objectif et un état. Il observe la demande, choisit une étape, reçoit un résultat et décide de continuer ou non. Un chatbot ne peut générer que du texte ; un agent peut demander une action externe. Les définitions commerciales varient, alors inspectez le contrôle réel. Définissez le succès et l'arrêt : un résultat vérifié, un nombre maximum de pas, des erreurs répétées ou un budget épuisé. Utilisez des capacités étroites et des autorisations minimales. Une autonomie utile signifie une liberté dans les limites imposées par le logiciel.
Vérifier l'accès avant utilisation
Les autorisations doivent être appliquées par les serveurs et la couche de données. Ne laissez pas le modèle décider si un utilisateur peut voir un document. Filtrez les sources avant qu'elles n'entrent dans le contexte, et non après avoir généré la réponse. Utilisez des informations d'identification à accès minimal, gardez-les à l'écart des invites, des captures d'écran et du code du navigateur, et faites pivoter les clés exposées. Une liste blanche de domaines de widgets ne remplace pas l'authentification API. L'authentification vous identifie ; l’autorisation détermine les opérations et les données que vous pouvez utiliser. Test d'accès refusé également.
Les erreurs nécessitent des chemins explicites
Un délai d'attente diffère d'une erreur d'autorisation. Réessayez uniquement les erreurs transitoires, avec des tentatives limitées et des délais croissants. Une opération avec des effets secondaires peut s'exécuter avant que sa réponse ne soit perdue ; réessayer sans clé d'idempotence peut dupliquer l'effet. Le streaming montre la progression mais ne garantit pas l'achèvement. Les points de contrôle peuvent permettre la reprise des étapes ayant échoué dans les limites d'exécution. Stockez l'identifiant d'exécution, l'étape, la durée et l'erreur tout en supprimant les secrets des journaux. Mesurez les chemins lents ainsi que les moyennes.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. L'approbation humaine est un contrôle d'intégration conceptuel, et non une conséquence intégrée de la demande d'approbation dans une invite. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
L'agent propose un retour après vérification de la politique. Sa proposition comprend l'ordre, le motif et les conditions. Un remboursement est une opération distincte nécessitant une autorisation et une vérification.
Essayez-le vous-même
- Classer les opérations en lecture, rédaction, changement réversible et effet irréversible.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Vous obtenez une proposition vérifiable sans transactions automatiques ni mémoire persistante supposée. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Un contrôle d’approbation conceptuel n’établit pas sa présence dans l’interface utilisateur. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Est-ce que plus d’autonomie donne toujours un meilleur résultat ?
Non. Cela augmente également les risques d’erreurs, les coûts et les actions inutiles.
Pourquoi supprime-t-on une source privée après avoir répondu trop tard ?
Les données sont déjà entrées dans le contexte du modèle et peuvent être divulguées.
Quel résultat cet exercice devrait-il produire ?
Vous obtenez une proposition vérifiable sans transactions automatiques ni mémoire persistante supposée.
Les mots à retenir
- Agente: Un système qui peut choisir des étapes et utiliser des outils pour atteindre un objectif.
- Autoriser / Autorisation: Vérification du droit d'accès à une opération ou une ressource.
- Idempotence: Répétition contrôlée sans dupliquer un effet.
Sources et votre prochaine étape
Pour préparer : A05 — Recherche Web et exécution de code