Parallel: plusieurs perspectives à la fois
Parallel distribue des sous-tâches indépendantes, puis regroupe les résultats.
Ce que vous apprendrez
- Expliquer : un workflow a une structure explicite
- Appliquer l'idée dans un exemple : Parallèle : plusieurs perspectives à la fois
- Reconnaître les limites et vérifier le résultat de l'exercice
Parallel distribue des sous-tâches indépendantes, puis regroupe les résultats. Imaginez trois évaluateurs lisant une description sous différents angles.
Ces étapes font référence aux fonctionnalités identifiées dans le code de l'application. Ce matériel n'a pas été validé sur une instance réelle ; vérifiez la documentation et les options de votre version.
Comment ça marche, étape par étape
Un workflow a une structure explicite
Un nœud est une étape, un bord est une transition et un état transporte les résultats entre les étapes. Un flux de travail possède un chemin défini par l'application, bien que le modèle puisse choisir certaines branches. Les systèmes agentiques incluent à la fois des flux de travail et des agents agissant dynamiquement. Nymrio propose ReAct, Reflection, Sequential, Orchestrator, Router, Parallel et Plan-and-Execute. Chacun change de coordination ; cela ne fait pas automatiquement d’un modèle un expert. Plus d'agents signifie plus d'appels et de contrats entre les rôles. Commencez par la solution la plus simple qui réussit vos tests.
Le coût appartient à l'ensemble du chemin
Comptez les appels de modèle, les jetons d'entrée et de sortie, les intégrations, le reclassement, la vision et les outils. Le raisonnement peut consommer des jetons facturables sans une réponse visible aussi longue. Les frais d’indexation et les frais de conversation diffèrent. Utilisez les prix actuels plutôt qu'un numéro permanent d'un cours. Une estimation simple est le nombre de jetons/1 000 000 × prix plus les opérations supplémentaires ; les crédits d'application peuvent avoir leur propre conversion. Comparez le coût par tâche réussie, et pas seulement par appel. L'exécution parallèle peut réduire la latence tout en augmentant la consommation totale. Un budget a besoin d’une condition d’arrêt vérifiée.
Définir le succès avant d’optimiser
Préparer les demandes représentatives et les réponses ou propriétés attendues. Incluez les cas ordinaires, les ambiguïtés, les données manquantes et les erreurs d'outils. Pour RAG, mesurez la récupération des preuves séparément de l’exactitude des réponses. Recall@k mesure la part de preuves pertinentes trouvées dans les k premiers résultats ; précision@k mesure la part des résultats renvoyés qui sont pertinents. Pour les agents, suivez également les actions, les autorisations et les arrêts. Un LLM en tant que juge peut accélérer l'évaluation mais doit être calibré par rapport aux humains. Ne modifiez pas simultanément l'invite, le modèle et l'index si vous souhaitez comprendre ce qui a amélioré les résultats.
Laboratoire détaillé
Indépendance et agrégation
Splitter : « Distribuer des avis indépendants de même description ». Clarté : « Identifier le jargon et l'ambiguïté ». Utilité : « Vérifier si les besoins et les limites sont expliqués ». Compatibilité : « Comparez les réclamations avec le catalogue sans hypothèses ». Agrégateur : « Conserver les sources, combiner les résultats et expliquer les désaccords ».
« LX-240 est parfait pour n'importe quel adaptateur » produit du flou, des promesses excessives et une contradiction avec l'adaptateur A-7 du catalogue. Le rapport final recommande de supprimer la généralisation. Ne votez pas pour déterminer la compatibilité physique. Si un travailleur dépend des conclusions d’un autre travailleur, déplacez cette étape dans une chaîne appropriée.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Les travailleurs indépendants fonctionnent simultanément ; l'agrégateur combine leurs résultats, pas un vote majoritaire. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Le séparateur distribue des contrôles de clarté, d'utilité et de compatibilité. Les travailleurs travaillent séparément. L'agrégateur conserve les résultats étayés et explique les désaccords.
splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter
Essayez-le vous-même
- Attribuer un répartiteur, au moins deux travailleurs et un agrégateur ; les branches indépendantes reçoivent la même entrée.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Le rapport final distingue les conclusions des travailleurs et ne considère pas le vote majoritaire comme une preuve. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Un travailleur qui a besoin de la production d’un autre travailleur n’est pas indépendant. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Le multi-agent est-il un huitième modèle ?
Non. Il s’agit d’une catégorie architecturale qui peut utiliser plusieurs modèles existants.
Des appels plus simultanés sont-ils automatiquement moins chers ?
Non. Le temps écoulé et la consommation totale sont des quantités différentes.
Quel résultat cet exercice devrait-il produire ?
Le rapport final distingue les conclusions des travailleurs et ne considère pas le vote majoritaire comme une preuve.
Les mots à retenir
- Hocher la tête: Une étape dans un graphe d’exécution.
- Latență / Latence: Temps jusqu'à un résultat utile.
- Régresie / Régression: Un changement qui brise un cas précédemment correct.
Sources et votre prochaine étape
Pour préparer : W06 — Routeur : envoyer les requêtes au bon spécialiste