Invite, RAG ou réglage fin ?

Ces méthodes changent différentes choses.

Ce que vous apprendrez

  • Expliquer : consignes, connaissances et adaptation
  • Appliquez l'idée dans un exemple : Invite, RAG ou réglage fin ?
  • Reconnaître les limites et vérifier le résultat de l'exercice

Ces méthodes changent différentes choses. Choisissez selon que le problème concerne des instructions, des faits ou un comportement répété.

Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.

Comment ça marche, étape par étape

Instructions, connaissances et adaptation

Une invite de modification demande des instructions et des exemples. RAG modifie les preuves disponibles sans modifier le modèle. Le réglage fin ajuste les paramètres pour les comportements ou les tâches répétés et nécessite des données et une évaluation de qualité. LoRA/PEFT entraîne un ensemble de paramètres plus petit pour une adaptation efficace. La distillation transfère le comportement d'un modèle à un autre ; la quantification réduit la précision numérique pour une inférence efficace, avec des compromis. Aucun ne répare automatiquement les mauvaises sources. Pour les règles qui changent fréquemment, la mise à jour des documents est généralement plus facile à vérifier que le recyclage.

RAG accède aux preuves, il ne se recycle pas

RAG signifie génération augmentée par récupération : la récupération fournit les passages pertinents avant que le modèle ne réponde. L'ingestion prépare les documents, tandis que l'exécution des requêtes recherche dans l'index et crée le contexte. Un modèle d'intégration représente le texte numériquement ; le modèle de réponse écrit la réponse. Les modèles de rerankers, de vision, de graphiques et de routeurs ont des rôles différents en cas de besoin. RAG aide avec les informations privées ou changeantes mais ne garantit pas la vérité. Utilisez une API autorisée pour les soldes, l'inventaire exact ou les autorisations ; un ancien document n'est pas une source fiable pour l'état actuel.

Définir le succès avant d’optimiser

Préparer les demandes représentatives et les réponses ou propriétés attendues. Incluez les cas ordinaires, les ambiguïtés, les données manquantes et les erreurs d'outils. Pour RAG, mesurez la récupération des preuves séparément de l’exactitude des réponses. Recall@k mesure la part de preuves pertinentes trouvées dans les k premiers résultats ; précision@k mesure la part des résultats renvoyés qui sont pertinents. Pour les agents, suivez également les actions, les autorisations et les arrêts. Un LLM en tant que juge peut accélérer l'évaluation mais doit être calibré par rapport aux humains. Ne modifiez pas simultanément l'invite, le modèle et l'index si vous souhaitez comprendre ce qui a amélioré les résultats.

Le schéma explicatif

Invite, RAG ou réglage fin ? Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Relations: Critères de problème et de réussite → Choisir l'action suivante; Tâche, contraintes et format de sortie → Agent / LLM; Agent / LLM → Comparez avec les résultats attendus; Connaissance du RAG → Agent / LLM; Mise au point (externe) → Comportement du modèle adapté; Comportement du modèle adapté → Comparez avec les résultats attendus; Capacités et contraintes → Choisir l'action suivante; Choisir l'action suivante → Tâche, contraintes et format de sortie (Instructions); Choisir l'action suivante → Connaissance du RAG (Connaissance); Choisir l'action suivante → Mise au point (externe) (Comportement (externe)). P07 · Carte des relations Invite, RAG ou réglage fin ? Saisir Critères de problème et de réussite Données Capacités et contraintes Décision / contrôle Choisir l'action suivante Données Tâche, contraintes et format de sortie Magasin / index Connaissance du RAG Traitement Mise au point (externe) Modèle/agent IA Agent / LLM Modèle/agent IA Comportement du modèle adapté Décision / contrôle Comparez avec les résultats attendus Instructions Connaissance Comportement (externe) Flux principal Données et contexte Commentaires et retour

Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.

Un exemple complet

Un ton trop technique nécessite des incitations plus claires. Une nouvelle politique a besoin de sources mises à jour et de RAG. Un formatage spécialisé répété peut justifier un réglage précis après avoir évalué des options plus simples.

Essayez-le vous-même

  1. Choisissez une solution pour le ton, le stock en direct, une nouvelle politique et un formatage répété.
  2. Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
  3. Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
  4. Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
  5. Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.

Une solution expliquée

Utilisez des invites pour les exigences, RAG pour les documents et l'adaptation uniquement avec des données et une évaluation adéquates. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.

Quand cette approche est utile et quelles sont ses limites

Le réglage fin n'est pas une base de données en direct. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.

Vérifiez vos connaissances

Le réglage fin est-il le premier choix pour le stock actuel ?

Non. Utilisez une source en direct autorisée pour obtenir des informations qui évoluent rapidement.

RAG modifie-t-il les paramètres LLM ?

Non. Il fournit le contexte de l’heure de la demande ; les changements de paramètres appartiennent à la formation.

Quel résultat cet exercice devrait-il produire ?

Utilisez des invites pour les exigences, RAG pour les documents et l'adaptation uniquement avec des données et une évaluation adéquates.

Les mots à retenir

  • Réglage fin: Adaptation des paramètres du modèle à l'aide d'exemples spécifiques à des tâches.
  • Récupération: Trouver des informations pertinentes dans des sources accessibles.
  • Régresie / Régression: Un changement qui brise un cas précédemment correct.

Sources et votre prochaine étape

Pour préparer : P06 — Raisonnement et vérification