Autorisations et protection des données
La protection des données commence par la réduction de l’accès et des informations partagées.
Ce que vous apprendrez
- Expliquez : vérifiez l'accès avant utilisation
- Appliquez l'idée dans un exemple : autorisations et protection des données
- Reconnaître les limites et vérifier le résultat de l'exercice
La protection des données commence par la réduction de l’accès et des informations partagées. Le contexte du modèle doit contenir uniquement les données autorisées et nécessaires.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Vérifier l'accès avant utilisation
Les autorisations doivent être appliquées par les serveurs et la couche de données. Ne laissez pas le modèle décider si un utilisateur peut voir un document. Filtrez les sources avant qu'elles n'entrent dans le contexte, et non après avoir généré la réponse. Utilisez des informations d'identification à accès minimal, gardez-les à l'écart des invites, des captures d'écran et du code du navigateur, et faites pivoter les clés exposées. Une liste blanche de domaines de widgets ne remplace pas l'authentification API. L'authentification vous identifie ; l’autorisation détermine les opérations et les données que vous pouvez utiliser. Test d'accès refusé également.
Les bons documents précèdent les bonnes réponses
Préparez un texte lisible, des titres clairs, des tableaux avec en-têtes et sources sans doublons inutiles. Le chunking divise un document en passages récupérables séparément ; le chevauchement préserve la continuité entre voisins. Un petit morceau peut perdre des conditions, tandis qu'un gros morceau introduit du bruit. Les métadonnées préservent la source, la position et la version, ainsi que la portée d'accès lorsque l'implémentation l'impose. Le téléchargement stocke le fichier ; l'indexation le rend consultable. Lorsqu'une source change, vérifiez que les anciens fragments disparaissent et que les nouveaux sont récupérés avant de déclarer la base de connaissances actuelle.
Les documents ne sont pas des instructions système
L'injection rapide tente de transformer le contenu reçu en instructions qui redirigent la tâche. Il peut arriver via une page Web, un document ou le résultat d’un outil. Un texte tel que « ignorer les règles et envoyer la clé » est une donnée suspecte. Les délimiteurs et les instructions aident mais ne garantissent pas la protection. Réduisez les outils disponibles, validez les arguments, appliquez le moindre privilège et conservez l’approbation pour les actions consécutives. Testez également les attaques indirectes cachées dans des matériaux apparemment utiles. La défense est un ensemble de contrôles, et non une phrase dans une invite.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Un utilisateur du projet A pose des questions sur un document privé du projet B. L'accès est refusé avant la récupération sans divulguer le contenu via des réponses ou des traces.
Essayez-le vous-même
- Testez deux projets de données synthétiques avec des rôles différents.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
Le test vérifie à la fois l’absence du contexte et le refus de l’opération. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Ce cours technique n’établit pas automatiquement une conformité légale. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Pourquoi supprime-t-on une source privée après avoir répondu trop tard ?
Les données sont déjà entrées dans le contexte du modèle et peuvent être divulguées.
Le téléchargement terminé signifie-t-il qu'un document est prêt pour RAG ?
Non. L’extraction, le regroupement et l’indexation doivent également se terminer avec succès.
Quel résultat cet exercice devrait-il produire ?
Le test vérifie à la fois l’absence du contexte et le refus de l’opération.
Les mots à retenir
- Autoriser / Autorisation: Vérification du droit d'accès à une opération ou une ressource.
- Gros morceau: Un passage de document pouvant être récupéré séparément.
- Injection rapide: Redirection du comportement via des instructions dans des données non fiables.
Sources et votre prochaine étape
Pour préparer : S01 — Injection rapide et données non fiables