Befangenheit, Nutzungsrechte und Transparenz
Zu einem verantwortungsvollen Umgang gehört, wie Sie das System beschreiben, welche Daten Sie verwenden und wie Sie den Umgang mit verschiedenen Personen überprüfen.
Was Sie lernen werden
- Erklären Sie: Wie Lernen ein Modell verändert
- Wenden Sie die Idee an einem Beispiel an: Voreingenommenheit, Nutzungsrechte und Transparenz
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Zu einem verantwortungsvollen Umgang gehört, wie Sie das System beschreiben, welche Daten Sie verwenden und wie Sie den Umgang mit verschiedenen Personen überprüfen.
Sie können diesen Kurs ohne Konto oder Programmierung absolvieren. Beispiele verwenden synthetische Daten und KI-Ergebnisse müssen überprüft werden.
Wie es funktioniert, Schritt für Schritt
Wie Lernen ein Modell verändert
Trainingsdaten sind die Beispiele, die zum Anpassen von Modellparametern verwendet werden. Überwachtes Lernen beinhaltet ein Ziel, beispielsweise „Spam“. Unüberwachtes Lernen findet Strukturen, beispielsweise Kundengruppen. Selbstüberwachtes Lernen erstellt Ziele aus Daten, beispielsweise die Vorhersage folgender Texte. Die Validierung hilft bei der Auswahl der Einstellungen. Der Testsatz bleibt bis zur endgültigen Auswertung getrennt. Ein Modell, das sich Beispiele merkt und bei neuen Daten versagt, ist überangepasst. Eine ordnungsgemäße Aufteilung verhindert, dass Informationen aus dem Testsatz in das Training gelangen.
Geläufigkeit und Wahrheit werden getrennt geprüft
Eine Halluzination ist ein nicht unterstützter oder falscher Inhalt, der als Antwort präsentiert wird. Es kann durch fehlende Informationen, Unklarheiten oder falsch kombinierte Muster entstehen. Fordern Sie Belege an und überprüfen Sie Originaldokument, Datum, Einheiten und Bedingungen. Ein echtes Zitat kann die Behauptung möglicherweise immer noch nicht stützen. Verwenden Sie aktuelle Quellen für aktuelle Fakten, einen Taschenrechner für die Arithmetik und „kann nicht feststellen“, wann Beweise fehlen. Behandeln Sie das in Prosa zum Ausdruck gebrachte Vertrauen nicht als kalibrierte Wahrscheinlichkeit.
Mediengenerierung und Ergebnisbewertung
In einem Diffusionsmodell verfeinert die Generierung schrittweise eine verrauschte Darstellung, die auf Text oder anderen Eingaben basiert. Dies ist eine Vereinfachung: Architekturen und Planer unterscheiden sich, und nicht alle Medienmodelle verwenden Diffusion. Trennen Sie die Generierung von der Bildbearbeitung und dem Verstehen. Bewerten Sie kurze Compliance, Lesbarkeit, Konsistenz, Artefakte und Rechte an den Materialien. Video und Audio erfordern auch zeitliche Kontinuitätsprüfungen. Ein attraktives Ergebnis ist keine Dokumentarfotografie oder ein Beweis für ein reales Ereignis.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
Identische Anfragen erhalten unterschiedliche Empfehlungen, die nur auf Kundennamen basieren. Kontrollieren Sie andere Variablen und untersuchen Sie Verzerrungen. Veröffentlichte Materialien benötigen eine geprüfte Herkunft und Nutzungsrechte.
Probieren Sie es selbst aus
- Vergleichen Sie gepaarte Anfragen und zeichnen Sie Empfehlungen und Erklärungen auf.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Der Vergleich identifiziert ungerechtfertigte Unterschiede und vermeidet Behauptungen, dass KI von Natur aus unvoreingenommen sei. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Lizenzen und rechtliche Anforderungen erfordern aktuelle Prüfungen des Sachverhalts und der Gerichtsbarkeit. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Warum nicht nur Trainingsdaten auswerten?
Wir wollen Leistung in neuen Situationen, keinen Beweis für das Auswendiglernen.
Reicht ein Link in einer Antwort?
NEIN; Es muss den konkreten Anspruch stützen und zur Zeit und den Umständen passen.
Zu welchem Ergebnis soll diese Übung führen?
Der Vergleich identifiziert ungerechtfertigte Unterschiede und vermeidet Behauptungen, dass KI von Natur aus unvoreingenommen sei.
Wichtige Begriffe
- Überanpassung: Das Modell passt zu gut zu den Beispielen, die es gesehen hat.
- Erdung: Eine Antwort auf nachprüfbare Beweise stützen.
- Diffusion: Eine Familie von Erzeugungsmethoden, die auf der Verfeinerung von Rauschen basieren.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: S03 – Konsequente Handlungen und menschliche Zustimmung