Ingénierie du contexte : qu’arrive-t-il au modèle ?

L'ingénierie du contexte sélectionne ce que le modèle voit. L'objectif est la pertinence, et non le remplissage de la fenêtre de contexte.

Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.

Comment ça marche, étape par étape

Le contexte est l'établi

Le contexte comprend les instructions, la demande en cours, l'historique pertinent, les documents récupérés et les résultats de l'outil. la fenêtre de contexte a une capacité limitée ; réservez également de la place pour la réponse. Plus de texte n’améliore pas automatiquement la précision. Des informations non pertinentes et des contradictions peuvent cacher des preuves importantes. Résumez soigneusement l’historique de la conversation et préservez l’origine des faits. L'état décrit l'exécution en cours, un point de contrôle enregistre un point pouvant être repris et la mémoire persistante conserve les informations d'une exécution à l'autre. Ce sont différents mécanismes gérés par l’application.

RAG accède aux preuves, il ne se recycle pas

RAG signifie génération augmentée par récupération : la récupération fournit les passages pertinents avant que le modèle ne réponde. L'ingestion prépare les documents, tandis que l'exécution des requêtes recherche dans l'index et crée le contexte. Un modèle d'intégration représente le texte numériquement ; le modèle de réponse écrit la réponse. Les modèles de rerankers, de vision, de graphiques et de routeurs ont des rôles différents en cas de besoin. RAG aide avec les informations privées ou changeantes mais ne garantit pas la vérité. Utilisez une API autorisée pour les soldes, l'inventaire exact ou les autorisations ; un ancien document n'est pas une source fiable pour l'état actuel.

Vérifier l'accès avant utilisation

Les autorisations doivent être appliquées par les serveurs et la couche de données. Ne laissez pas le modèle décider si un utilisateur peut voir un document. Filtrez les sources avant qu'elles n'entrent dans le contexte, et non après avoir généré la réponse. Utilisez des informations d'identification à accès minimal, gardez-les à l'écart des invites, des captures d'écran et du code du navigateur, et faites pivoter les clés exposées. Une liste blanche de domaines de widgets ne remplace pas l'authentification API. L'authentification vous identifie ; l’autorisation détermine les opérations et les données que vous pouvez utiliser. Test d'accès refusé également.

Le schéma explicatif

Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.

Un exemple complet

Pour une question de retour, conservez la politique et le produit actuels, et non dix pages de discussion en couleur. Si deux politiques entrent en conflit, marquez les versions plutôt que de les mélanger.

Essayez-le vous-même

1. Réduisez dix paragraphes de contexte à ce que la question exige.
2. Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
3. Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
4. Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
5. Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.

Une solution expliquée

Le modèle reçoit des instructions, des questions et des preuves pertinentes avec la source et la version conservées. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.

Quand cette approche est utile et quelles sont ses limites

La synthèse peut perdre des conditions ; vérifiez ce qui a été supprimé. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.

Vérifiez vos connaissances

Un point de contrôle est-il une mémoire utilisateur permanente ?

Non. Enregistrer une course n’implique pas de conserver les préférences dans les conversations.

RAG modifie-t-il les paramètres LLM ?

Non. Il fournit le contexte de l’heure de la demande ; les changements de paramètres appartiennent à la formation.

Quel résultat cet exercice devrait-il produire ?

Le modèle reçoit des instructions, des questions et des preuves pertinentes avec la source et la version conservées.

Les mots à retenir

• Point de contrôle: Etat enregistré permettant de reprendre une exécution.
• Récupération: Trouver des informations pertinentes dans des sources accessibles.
• Autoriser / Autorisation: Vérification du droit d'accès à une opération ou une ressource.

Sources et votre prochaine étape

• LangGraph — Flux de travail et agents
• Lewis et al. — Génération augmentée par récupération
• OWASP — Injection de prompt

Pour préparer : P01 — Ingénierie rapide sans formules magiques