Stronniczość, prawa użytkowania i przejrzystość
Odpowiedzialne użytkowanie obejmuje sposób, w jaki opisujesz system, jakich danych używasz i w jaki sposób sprawdzasz traktowanie różnych osób.
Czego się dowiesz
- Wyjaśnij: jak uczenie się zmienia model
- Zastosuj tę ideę na przykładzie: stronniczość, prawa użytkowania i przejrzystość
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Odpowiedzialne użytkowanie obejmuje sposób, w jaki opisujesz system, jakich danych używasz i w jaki sposób sprawdzasz traktowanie różnych osób.
Możesz kontynuować ten kurs bez konta i programowania. W przykładach wykorzystano dane syntetyczne, a wyniki sztucznej inteligencji wymagają sprawdzenia.
Jak to działa, krok po kroku
Jak uczenie się zmienia model
Dane uczące to zbiór przykładów używanych do dostosowywania parametrów modelu. Uczenie się nadzorowane obejmuje cel, taki jak „spam”. Uczenie się bez nadzoru znajduje strukturę, taką jak grupy klientów. Samonadzorowane uczenie się tworzy cele na podstawie danych, na przykład przewidywanie następującego tekstu. Walidacja pomaga wybrać ustawienia; zestaw testowy pozostaje oddzielony aż do oceny końcowej. Model, który zapamiętuje przykłady i nie radzi sobie z nowymi danymi, jest nadmiernie dopasowany. Właściwy podział zapobiega przedostawaniu się informacji ze zbioru testowego do treningu.
Płynność i prawdziwość sprawdzane są oddzielnie
Halucynacja to nieuzasadniona lub nieprawidłowa treść prezentowana jako odpowiedź. Może wynikać z brakujących informacji, niejednoznaczności lub nieprawidłowo połączonych wzorców. Poproś o dowód i sprawdź oryginalny dokument, datę, jednostki i warunki. Prawdziwy cytat może nadal nie potwierdzać tej tezy. Korzystaj z bieżących źródeł w celu uzyskania aktualnych faktów, kalkulatora do obliczeń arytmetycznych i „nie potrafię określić”, gdy brakuje dowodów. Nie traktuj pewności wyrażonej w prozie jako skalibrowanego prawdopodobieństwa.
Tworzenie mediów i ocena wyników
W modelu dyfuzyjnym generowanie stopniowo udoskonala zaszumioną reprezentację uwarunkowaną tekstem lub innymi danymi wejściowymi. Jest to uproszczenie: architektury i harmonogramy różnią się i nie wszystkie modele mediów wykorzystują dyfuzję. Oddziel generowanie od edycji i rozumienia obrazu. Oceń zwięźle zgodność, czytelność, spójność, artefakty i prawa do materiałów. Wideo i audio również wymagają tymczasowej kontroli ciągłości. Atrakcyjnym dorobkiem nie jest fotografia dokumentalna ani dokumentacja prawdziwego wydarzenia.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
Identyczne prośby otrzymują różne rekomendacje oparte wyłącznie na nazwiskach klientów. Kontroluj inne zmienne i badaj stronniczość. Publikowane materiały wymagają sprawdzenia pochodzenia i praw użytkowania.
Spróbuj sam
- Porównaj sparowane prośby i zapisz zalecenia i wyjaśnienia.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
Porównanie pozwala zidentyfikować nieuzasadnione różnice i uniknąć twierdzeń, że sztuczna inteligencja jest z natury bezstronna. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Licencje i wymagania prawne wymagają bieżącej kontroli materiału i jurysdykcji. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Dlaczego nie oceniać wyłącznie na podstawie danych szkoleniowych?
Chcemy występów w nowych sytuacjach, a nie dowodu zapamiętywania.
Czy link w odpowiedzi wystarczy?
NIE; musi uzasadniać konkretne roszczenie oraz pasować do czasu i okoliczności.
Jaki wynik powinno dać to ćwiczenie?
Porównanie pozwala zidentyfikować nieuzasadnione różnice i uniknąć twierdzeń, że sztuczna inteligencja jest z natury bezstronna.
Pojęcia do zapamiętania
- Nadmierne dopasowanie: Model pasuje do przykładów, które widział zbyt blisko.
- Grunt: Oparcie odpowiedzi na weryfikowalnych dowodach.
- Dyfuzja: Rodzina metod generowania opartych na udoskonalaniu szumu.
Źródła i następny krok
Aby przygotować: S03 – Konsekwentne działania i akceptacja ludzi