Qu'est-ce qu'un LLM et comment répond-il ?
Un LLM construit les réponses jeton par jeton.
Ce que vous apprendrez
- Expliquez : des jetons à une réponse
- Appliquez l'idée dans un exemple : qu'est-ce qu'un LLM et comment répond-il ?
- Reconnaître les limites et vérifier le résultat de l'exercice
Un LLM construit les réponses jeton par jeton. On peut le comprendre sans formules avancées en suivant ce qu'il reçoit et génère.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Des tokens à la réponse
Un jeton est une unité de texte : parfois un mot, parfois un fragment de mot ou un signe de ponctuation. Le modèle traite les jetons de contexte et estime une distribution sur le jeton suivant. La sélection se répète jusqu'à l'arrêt. Le mécanisme d’attention des Transformers combine des informations sur les relations entre les jetons ; ce n'est pas l'attention humaine. L’entraînement modifie les paramètres, tandis que l'inférence utilise le modèle entraîné. Une réponse peut paraître cohérente sans être vraie : générer du texte ne vérifie pas les faits de manière indépendante.
Le contexte est l'établi
Le contexte comprend les instructions, la demande en cours, l'historique pertinent, les documents récupérés et les résultats de l'outil. la fenêtre de contexte a une capacité limitée ; réservez également de la place pour la réponse. Plus de texte n’améliore pas automatiquement la précision. Des informations non pertinentes et des contradictions peuvent cacher des preuves importantes. Résumez soigneusement l’historique de la conversation et préservez l’origine des faits. L'état décrit l'exécution en cours, un point de contrôle enregistre un point pouvant être repris et la mémoire persistante conserve les informations d'une exécution à l'autre. Ce sont différents mécanismes gérés par l’application.
La fluidité et l’exactitude se vérifient séparément
Une hallucination est un contenu non étayé ou incorrect présenté comme une réponse. Cela peut provenir d’informations manquantes, d’ambiguïtés ou de modèles mal combinés. Demandez des preuves et vérifiez le document original, la date, les unités et les conditions. Une véritable citation peut toujours ne pas étayer l’affirmation. Utilisez des sources actuelles pour les faits actuels, une calculatrice pour l'arithmétique et « ne peut pas déterminer » quand des preuves sont manquantes. Ne considérez pas la confiance exprimée en prose comme une probabilité calibrée.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
« Résumez la politique en deux phrases » devient un symbole. Le modèle prend en compte l'instruction et la politique, génère les jetons et les arrêts suivants. Il ne recherche pas automatiquement les documents à moins que l'application ne fournisse une récupération.
Essayez-le vous-même
- Rédigez un paragraphe de politique, demandez deux résumés, puis supprimez la politique.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Le résumé préserve le délai et les conditions. Si aucune politique n’est fournie, le modèle doit reconnaître cette absence. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
« Très probablement » ne signifie pas « vrai ». Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Un jeton est-il toujours un mot ?
Non; la tokenisation dépend du modèle et du langage. Utilisez le tokeniseur approprié.
Un point de contrôle est-il une mémoire utilisateur permanente ?
Non. Enregistrer une course n’implique pas de conserver les préférences dans les conversations.
Quel résultat cet exercice devrait-il produire ?
Le résumé préserve le délai et les conditions. Si aucune politique n’est fournie, le modèle doit reconnaître cette absence.
Les mots à retenir
- Jeton (token): Une unité utilisée par le modèle pour les limites du texte et du contexte.
- Point de contrôle: Etat enregistré permettant de reprendre une exécution.
- Mise à la terre: Fonder une réponse sur des preuves vérifiables.
Sources et votre prochaine étape
Pour préparer : F02 — Comment une machine apprend-elle ?