Évaluer les agents et les équipes
Un agent peut rédiger une bonne réponse après une mauvaise action.
Ce que vous apprendrez
- Expliquez : définissez le succès avant d’optimiser
- Appliquer l'idée dans un exemple : évaluer des agents et des équipes
- Reconnaître les limites et vérifier le résultat de l'exercice
Un agent peut rédiger une bonne réponse après une mauvaise action. Évaluez l’ensemble du chemin.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Définir le succès avant d’optimiser
Préparer les demandes représentatives et les réponses ou propriétés attendues. Incluez les cas ordinaires, les ambiguïtés, les données manquantes et les erreurs d'outils. Pour RAG, mesurez la récupération des preuves séparément de l’exactitude des réponses. Recall@k mesure la part de preuves pertinentes trouvées dans les k premiers résultats ; précision@k mesure la part des résultats renvoyés qui sont pertinents. Pour les agents, suivez également les actions, les autorisations et les arrêts. Un LLM en tant que juge peut accélérer l'évaluation mais doit être calibré par rapport aux humains. Ne modifiez pas simultanément l'invite, le modèle et l'index si vous souhaitez comprendre ce qui a amélioré les résultats.
Le modèle propose, l'outil exécute
L'appel d'outil produit une demande d'appel avec un nom et des arguments. L'application valide le schéma, les autorisations et les limites avant exécution. Le résultat revient au contexte pour l'étape suivante. Par exemple, get_product_stock prend un SKU et renvoie une quantité ; sa description doit expliquer qu'il ne réserve pas de produits. Distinguez les résultats vides, les erreurs de validation, les accès manquants et les délais d’attente. Un JSON valide ne prouve pas que les arguments sont corrects ou que l'action est autorisée. Pour les effets externes, envisagez également une exécution en double.
Un workflow a une structure explicite
Un nœud est une étape, un bord est une transition et un état transporte les résultats entre les étapes. Un flux de travail possède un chemin défini par l'application, bien que le modèle puisse choisir certaines branches. Les systèmes agentiques incluent à la fois des flux de travail et des agents agissant dynamiquement. Nymrio propose ReAct, Reflection, Sequential, Orchestrator, Router, Parallel et Plan-and-Execute. Chacun change de coordination ; cela ne fait pas automatiquement d’un modèle un expert. Plus d'agents signifie plus d'appels et de contrats entre les rôles. Commencez par la solution la plus simple qui réussit vos tests.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Un agent signale la bonne quantité mais demande un autre SKU. Une équipe cite la politique mais omet les désaccords des travailleurs. Tous deux sont des échecs malgré un texte final convaincant.
Essayez-le vous-même
- Comparez deux traces et marquez le premier écart par rapport au but.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Vérifiez les arguments, les rôles, les opérations, les sources et les arrêts, puis la qualité du texte. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Le LLM en tant que juge peut être biaisé et nécessite un calibrage humain. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Un bon score de style prouve-t-il le succès d’un agent ?
Non. L’agent peut écrire magnifiquement après avoir utilisé le mauvais outil ou les mauvaises données.
Qui exécute un appel proposé par le modèle ?
L'application ou le service hôte après validation. Le modèle n'obtient pas automatiquement un accès illimité.
Quel résultat cet exercice devrait-il produire ?
Vérifiez les arguments, les rôles, les opérations, les sources et les arrêts, puis la qualité du texte.
Les mots à retenir
- Régresie / Régression: Un changement qui brise un cas précédemment correct.
- Appel d'outil: Une demande structurée pour utiliser une capacité externe.
- Hocher la tête: Une étape dans un graphe d’exécution.
Sources et votre prochaine étape
Pour préparer : E02 — Évaluer RAG étape par étape