Aire de jeux comme laboratoire

Playground rend visibles les étapes de la conversation.

Ce que vous apprendrez

  • Expliquer : une boucle d'agent limitée
  • Appliquer l'idée dans un exemple : une aire de jeux comme laboratoire
  • Reconnaître les limites et vérifier le résultat de l'exercice

Playground rend visibles les étapes de la conversation. Utilisez-le pour des comparaisons contrôlées plutôt que uniquement pour des démonstrations réussies.

Ces étapes font référence aux fonctionnalités identifiées dans le code de l'application. Ce matériel n'a pas été validé sur une instance réelle ; vérifiez la documentation et les options de votre version.

Comment ça marche, étape par étape

Une boucle d'agent limitée

Un agent combine un modèle avec des outils, un objectif et un état. Il observe la demande, choisit une étape, reçoit un résultat et décide de continuer ou non. Un chatbot ne peut générer que du texte ; un agent peut demander une action externe. Les définitions commerciales varient, alors inspectez le contrôle réel. Définissez le succès et l'arrêt : un résultat vérifié, un nombre maximum de pas, des erreurs répétées ou un budget épuisé. Utilisez des capacités étroites et des autorisations minimales. Une autonomie utile signifie une liberté dans les limites imposées par le logiciel.

Définir le succès avant d’optimiser

Préparer les demandes représentatives et les réponses ou propriétés attendues. Incluez les cas ordinaires, les ambiguïtés, les données manquantes et les erreurs d'outils. Pour RAG, mesurez la récupération des preuves séparément de l’exactitude des réponses. Recall@k mesure la part de preuves pertinentes trouvées dans les k premiers résultats ; précision@k mesure la part des résultats renvoyés qui sont pertinents. Pour les agents, suivez également les actions, les autorisations et les arrêts. Un LLM en tant que juge peut accélérer l'évaluation mais doit être calibré par rapport aux humains. Ne modifiez pas simultanément l'invite, le modèle et l'index si vous souhaitez comprendre ce qui a amélioré les résultats.

Les erreurs nécessitent des chemins explicites

Un délai d'attente diffère d'une erreur d'autorisation. Réessayez uniquement les erreurs transitoires, avec des tentatives limitées et des délais croissants. Une opération avec des effets secondaires peut s'exécuter avant que sa réponse ne soit perdue ; réessayer sans clé d'idempotence peut dupliquer l'effet. Le streaming montre la progression mais ne garantit pas l'achèvement. Les points de contrôle peuvent permettre la reprise des étapes ayant échoué dans les limites d'exécution. Stockez l'identifiant d'exécution, l'étape, la durée et l'erreur tout en supprimant les secrets des journaux. Mesurez les chemins lents ainsi que les moyennes.

Le schéma explicatif

Aire de jeux comme laboratoire Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Relations: Questions de test représentatives → Tests de terrain de jeu; Tests de terrain de jeu → Événements en streaming; Événements en streaming → Résultat à vérifier; Résultat à vérifier → Comparez avec les résultats attendus; Agents configurés → Tests de terrain de jeu; Flux de travail multi-agents → Tests de terrain de jeu; Trace d'exécution → Comparez avec les résultats attendus; Commentaires des utilisateurs → Comparez avec les résultats attendus. U02 · Carte des relations Aire de jeux comme laboratoire Saisir Questions de test représentatives Modèle/agent IA Agents configurés Traitement Flux de travail multi-agents Traitement Tests de terrain de jeu Données Événements en streaming Magasin / index Trace d'exécution Sortir Résultat à vérifier Données Commentaires des utilisateurs Décision / contrôle Comparez avec les résultats attendus Flux principal Données et contexte Commentaires et retour

Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.

Un exemple complet

Choisissez un agent ou un flux de travail, soumettez une question et inspectez le streaming et les étapes. Pour les fichiers, vérifiez le téléchargement. Utilisez de nouvelles conversations dans les comparaisons afin que l'histoire ne modifie pas le test.

Essayez-le vous-même

  1. Exécutez la même question avec deux configurations et enregistrez les différences.
  2. Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
  3. Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
  4. Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
  5. Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.

Une solution expliquée

Le rapport comprend la demande, l'objectif, les étapes et les résultats, et pas seulement le texte final. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.

Quand cette approche est utile et quelles sont ses limites

Une pièce jointe à une conversation ne devient pas automatiquement des données RAG permanentes. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.

Vérifiez vos connaissances

Est-ce que plus d’autonomie donne toujours un meilleur résultat ?

Non. Cela augmente également les risques d’erreurs, les coûts et les actions inutiles.

Un bon score de style prouve-t-il le succès d’un agent ?

Non. L’agent peut écrire magnifiquement après avoir utilisé le mauvais outil ou les mauvaises données.

Quel résultat cet exercice devrait-il produire ?

Le rapport comprend la demande, l'objectif, les étapes et les résultats, et pas seulement le texte final.

Les mots à retenir

  • Agente: Un système qui peut choisir des étapes et utiliser des outils pour atteindre un objectif.
  • Régresie / Régression: Un changement qui brise un cas précédemment correct.
  • Idempotence: Répétition contrôlée sans dupliquer un effet.

Sources et votre prochaine étape

Pour préparer : U01 — Une carte de l'application