Comment mesurer si l'IA est utile
L'utilité est mesurée par les résultats des utilisateurs.
Ce que vous apprendrez
- Expliquez : définissez le succès avant d’optimiser
- Appliquez l'idée dans un exemple : Comment mesurer si l'IA est utile
- Reconnaître les limites et vérifier le résultat de l'exercice
L'utilité est mesurée par les résultats des utilisateurs. Définissez des critères avant de voir les réponses plutôt que de modifier les règles par la suite.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Définir le succès avant d’optimiser
Préparer les demandes représentatives et les réponses ou propriétés attendues. Incluez les cas ordinaires, les ambiguïtés, les données manquantes et les erreurs d'outils. Pour RAG, mesurez la récupération des preuves séparément de l’exactitude des réponses. Recall@k mesure la part de preuves pertinentes trouvées dans les k premiers résultats ; précision@k mesure la part des résultats renvoyés qui sont pertinents. Pour les agents, suivez également les actions, les autorisations et les arrêts. Un LLM en tant que juge peut accélérer l'évaluation mais doit être calibré par rapport aux humains. Ne modifiez pas simultanément l'invite, le modèle et l'index si vous souhaitez comprendre ce qui a amélioré les résultats.
La fluidité et l’exactitude se vérifient séparément
Une hallucination est un contenu non étayé ou incorrect présenté comme une réponse. Cela peut provenir d’informations manquantes, d’ambiguïtés ou de modèles mal combinés. Demandez des preuves et vérifiez le document original, la date, les unités et les conditions. Une véritable citation peut toujours ne pas étayer l’affirmation. Utilisez des sources actuelles pour les faits actuels, une calculatrice pour l'arithmétique et « ne peut pas déterminer » quand des preuves sont manquantes. Ne considérez pas la confiance exprimée en prose comme une probabilité calibrée.
Le coût appartient à l'ensemble du chemin
Comptez les appels de modèle, les jetons d'entrée et de sortie, les intégrations, le reclassement, la vision et les outils. Le raisonnement peut consommer des jetons facturables sans une réponse visible aussi longue. Les frais d’indexation et les frais de conversation diffèrent. Utilisez les prix actuels plutôt qu'un numéro permanent d'un cours. Une estimation simple est le nombre de jetons/1 000 000 × prix plus les opérations supplémentaires ; les crédits d'application peuvent avoir leur propre conversion. Comparez le coût par tâche réussie, et pas seulement par appel. L'exécution parallèle peut réduire la latence tout en augmentant la consommation totale. Un budget a besoin d’une condition d’arrêt vérifiée.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Pour le score FAQ, délai correct, conditions préservées, clarté et absence de revendications inventées. Une prose élégante avec un délai erroné ne répond pas au critère critique.
Essayez-le vous-même
- Créez une rubrique pour 20 requêtes et spécifiez les échecs qui bloquent le lancement.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
La rubrique sépare les critères requis des préférences de style et permet des comparaisons reproductibles. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Une moyenne peut cacher un échec rare mais important. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Un bon score de style prouve-t-il le succès d’un agent ?
Non. L’agent peut écrire magnifiquement après avoir utilisé le mauvais outil ou les mauvaises données.
Un lien dans une réponse est-il suffisant ?
Non; il doit appuyer la revendication particulière et être adapté au moment et aux circonstances.
Quel résultat cet exercice devrait-il produire ?
La rubrique sépare les critères requis des préférences de style et permet des comparaisons reproductibles.
Les mots à retenir
- Régresie / Régression: Un changement qui brise un cas précédemment correct.
- Mise à la terre: Fonder une réponse sur des preuves vérifiables.
- Latență / Latence: Temps jusqu'à un résultat utile.
Sources et votre prochaine étape
Pour préparer : U02 — Une aire de jeux comme laboratoire · D04 — Bonnes questions pour tester RAG