Biais, droits d’usage et transparence
L'utilisation responsable comprend la manière dont vous décrivez le système, les données que vous utilisez et la manière dont vous vérifiez le traitement des différentes personnes.
Ce que vous apprendrez
- Expliquez : comment l'apprentissage change un modèle
- Appliquer l'idée dans un exemple : biais, droits d'usage et transparence
- Reconnaître les limites et vérifier le résultat de l'exercice
L'utilisation responsable comprend la manière dont vous décrivez le système, les données que vous utilisez et la manière dont vous vérifiez le traitement réservé aux différentes personnes.
Vous pouvez suivre ce cours sans compte ni programmation. Les exemples utilisent des données synthétiques et les résultats de l’IA doivent être vérifiés.
Comment ça marche, étape par étape
Comment l'apprentissage change un modèle
Les données d'entraînement sont l'ensemble d'exemples utilisés pour ajuster les paramètres du modèle. L'apprentissage supervisé inclut une cible, telle que le « spam ». L'apprentissage non supervisé trouve une structure, comme des groupes de clients. L'apprentissage auto-supervisé crée des objectifs à partir de données, par exemple prédire le texte suivant. La validation aide à choisir les paramètres ; l'ensemble de test reste séparé jusqu'à l'évaluation finale. Un modèle qui mémorise des exemples et échoue sur de nouvelles données est surajusté. Une répartition appropriée empêche les informations de l'ensemble de test de se retrouver dans les données d’entraînement.
La fluidité et l’exactitude se vérifient séparément
Une hallucination est un contenu non étayé ou incorrect présenté comme une réponse. Cela peut provenir d’informations manquantes, d’ambiguïtés ou de modèles mal combinés. Demandez des preuves et vérifiez le document original, la date, les unités et les conditions. Une véritable citation peut toujours ne pas étayer l’affirmation. Utilisez des sources actuelles pour les faits actuels, une calculatrice pour l'arithmétique et « ne peut pas déterminer » quand des preuves sont manquantes. Ne considérez pas la confiance exprimée en prose comme une probabilité calibrée.
Génération de médias et évaluation des résultats
Dans un modèle de diffusion, la génération affine progressivement une représentation bruitée conditionnée par du texte ou d'autres entrées. Il s’agit d’une simplification : les architectures et les ordonnanceurs diffèrent, et tous les modèles de médias n’utilisent pas la diffusion. Séparez la génération de l’édition et de la compréhension des images. Évaluer la conformité du bref, la lisibilité, la cohérence, les artefacts et les droits sur les documents. La vidéo et l'audio nécessitent également des contrôles de continuité temporelle. Une production attrayante n’est pas une photographie documentaire ou une preuve d’un événement réel.
Le schéma explicatif
Suivez les flèches pleines pour le flux principal. Les flèches bleues en pointillés fournissent des données ou un contexte ; les flèches roses en pointillés affichent des commentaires ou des résultats renvoyés. Les couleurs et les formes distinguent les modèles, les magasins, les décisions et les sorties. Sur un petit écran, faites défiler horizontalement pour suivre le schéma complet.
Un exemple complet
Les demandes identiques reçoivent des recommandations différentes basées uniquement sur les noms des clients. Contrôlez d’autres variables et étudiez les biais. Les documents publiés doivent être vérifiés en termes de provenance et de droits d'utilisation.
Essayez-le vous-même
- Comparez les demandes appariées et enregistrez les recommandations et les explications.
- Enregistrez l’entrée, la source et le résultat attendu avant d’exécuter l’expérience. Utilisez uniquement les données fictives de l'exemple.
- Suivez les étapes du diagramme. À chaque étape, enregistrez les informations reçues et produites ; ne confondez pas le résultat intermédiaire avec le résultat final.
- Répétez après avoir supprimé les informations nécessaires ou rendu la saisie ambiguë. Vérifiez si le système clarifie, arrête ou invente une réponse.
- Comparez avec la solution expliquée. Conservez la configuration, la date, le résultat et une explication des différences. Changez une chose et retestez.
Une solution expliquée
La comparaison identifie des différences injustifiées et évite les affirmations selon lesquelles l’IA est intrinsèquement impartiale. Un exercice réussi vous permet de montrer le lien entre les contributions, les étapes et les résultats. Lorsqu’une information manque, une réponse prudente est plus utile que des détails inventés. Comparez bien plus que le style : vérifiez également les conditions, les sources et les opérations.
Quand cette approche est utile et quelles sont ses limites
Les licences et les exigences légales nécessitent des vérifications actuelles du matériel et de la juridiction. Choisissez cette approche lorsqu’elle améliore un besoin mesuré. Gardez une base de référence simple et comparez les résultats en utilisant des entrées identiques. Un exemple réussi n’établit pas la fiabilité dans toutes les situations.
Vérifiez vos connaissances
Pourquoi ne pas évaluer uniquement sur les données d'entraînement ?
Nous voulons des performances sur des situations nouvelles, pas des preuves de mémorisation.
Un lien dans une réponse est-il suffisant ?
Non; il doit appuyer la revendication particulière et être adapté au moment et aux circonstances.
Quel résultat cet exercice devrait-il produire ?
La comparaison identifie des différences injustifiées et évite les affirmations selon lesquelles l’IA est intrinsèquement impartiale.
Les mots à retenir
- Surapprentissage: Le modèle correspond de trop près aux exemples qu'il a vus.
- Mise à la terre: Fonder une réponse sur des preuves vérifiables.
- Diffusion: Une famille de méthodes de génération basées sur le raffinement à partir du bruit.
Sources et votre prochaine étape
Pour préparer : S03 — Actions consécutives et approbation humaine