Contexte et mémoire : que voit l’IA ?
Le contexte est l’établi du modèle.
Ce que vous apprendrez
- Expliquez : le contexte est l'établi
- Appliquez l'idée dans un exemple : Contexte et mémoire : que voit l'IA ?
- Reconnaître les limites et vérifier le résultat de l'exercice
Le contexte est l’établi du modèle. La mémoire est ce que l'application choisit de conserver et de ramener à cet atelier.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Le contexte est l'établi
Le contexte comprend les instructions, la demande en cours, l'historique pertinent, les documents récupérés et les résultats de l'outil. la fenêtre de contexte a une capacité limitée ; réservez également de la place pour la réponse. Plus de texte n’améliore pas automatiquement la précision. Des informations non pertinentes et des contradictions peuvent cacher des preuves importantes. Résumez soigneusement l’historique de la conversation et préservez l’origine des faits. L'état décrit l'exécution en cours, un point de contrôle enregistre un point pouvant être repris et la mémoire persistante conserve les informations d'une exécution à l'autre. Ce sont différents mécanismes gérés par l’application.
Une instruction est un contrat
Une bonne invite spécifie la tâche, les données disponibles, le format de sortie et les critères de réussite. Séparez le rôle des données et incluez un exemple pour les cas ambigus. « Soyez précis » est plus faible que « indiquez uniquement le délai dans la politique fournie ; s'il manque, demandez des éclaircissements ». Quelques plans signifient quelques exemples résolus, pas une liste interminable. Le contenu du document reste une donnée même lorsqu'il contient des commandes. Les délimiteurs sont utiles, mais le logiciel doit appliquer les autorisations et la validation plutôt que de s'appuyer sur l'invite.
La fluidité et l’exactitude se vérifient séparément
Une hallucination est un contenu non étayé ou incorrect présenté comme une réponse. Cela peut provenir d’informations manquantes, d’ambiguïtés ou de modèles mal combinés. Demandez des preuves et vérifiez le document original, la date, les unités et les conditions. Une véritable citation peut toujours ne pas étayer l’affirmation. Utilisez des sources actuelles pour les faits actuels, une calculatrice pour l'arithmétique et « ne peut pas déterminer » quand des preuves sont manquantes. Ne considérez pas la confiance exprimée en prose comme une probabilité calibrée.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Au cours d'une conversation, vous identifiez le produit LX-240. « Quelle pièce convient ? » cela a du sens ici, mais une nouvelle conversation n'a pas d'identifiant. La reprise d'un point de contrôle diffère de la récupération d'une préférence persistante.
Essayez-le vous-même
- Comparez une question dans deux conversations et enregistrez leur contexte disponible.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Dans la nouvelle conversation, demandez le modèle du produit. Ne présumez pas que l’application conserve les préférences dans les conversations. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Une longue histoire peut contenir des faits périmés. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Un point de contrôle est-il une mémoire utilisateur permanente ?
Non. Enregistrer une course n’implique pas de conserver les préférences dans les conversations.
Une invite peut-elle remplacer le contrôle d’accès ?
Non. Une instruction n’est pas une limite d’autorisation.
Quel résultat cet exercice devrait-il produire ?
Dans la nouvelle conversation, demandez le modèle du produit. Ne présumez pas que l’application conserve les préférences dans les conversations.
Les mots à retenir
- Point de contrôle: Etat enregistré permettant de reprendre une exécution.
- Quelques coups: Exemples résolus fournis en contexte.
- Mise à la terre: Fonder une réponse sur des preuves vérifiables.
Sources et votre prochaine étape
Pour préparer : F03 — Qu'est-ce qu'un LLM et comment répond-il ?