Kontekst i pamięć: co widzi sztuczna inteligencja?
Kontekst to środowisko pracy modelu.
Czego się dowiesz
- Wyjaśnij: kontekst to stół warsztatowy
- Zastosuj pomysł na przykładzie: Kontekst i pamięć: co widzi sztuczna inteligencja?
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Kontekst to środowisko pracy modelu. Pamięć jest tym, co aplikacja decyduje się zachować i przywrócić do środowiska roboczego.
Możesz kontynuować ten kurs bez konta i programowania. W przykładach wykorzystano dane syntetyczne, a wyniki sztucznej inteligencji wymagają sprawdzenia.
Jak to działa, krok po kroku
Kontekst to stół warsztatowy
Kontekst obejmuje instrukcje, aktualne żądanie, odpowiednią historię, pobrane dokumenty i wyniki narzędzi. Okno kontekstowe ma ograniczoną pojemność; zarezerwuj również miejsce na odpowiedź. Więcej tekstu nie poprawia automatycznie dokładności. Nieistotne informacje i sprzeczności mogą ukryć ważne dowody. Starannie podsumowuj historię i zachowaj pochodzenie faktów. Stan opisuje bieżący przebieg, punkt kontrolny zapisuje punkt, który można wznowić, a pamięć trwała przechowuje informacje między przebiegami. Są to różne mechanizmy zarządzane przez aplikację.
Instrukcja jest umową
Dobry monit określa zadanie, dostępne dane, format wyjściowy i kryteria sukcesu. Oddziel rolę od danych i załącz przykład dla niejednoznacznych przypadków. „Bądź dokładny” jest słabszy niż „podaj tylko termin w dostarczonej polisie; jeśli go brakuje, poproś o wyjaśnienia”. Kilka strzałów oznacza kilka rozwiązanych przykładów, a nie niekończącą się listę. Treść dokumentu pozostaje danymi nawet wtedy, gdy zawiera polecenia. Ograniczniki pomagają, ale oprogramowanie musi wymuszać uprawnienia i sprawdzanie poprawności, a nie polegać na podpowiedziach.
Płynność i prawdziwość sprawdzane są oddzielnie
Halucynacja to nieuzasadniona lub nieprawidłowa treść prezentowana jako odpowiedź. Może wynikać z brakujących informacji, niejednoznaczności lub nieprawidłowo połączonych wzorców. Poproś o dowód i sprawdź oryginalny dokument, datę, jednostki i warunki. Prawdziwy cytat może nadal nie potwierdzać tej tezy. Korzystaj z bieżących źródeł w celu uzyskania aktualnych faktów, kalkulatora do obliczeń arytmetycznych i „nie potrafię określić”, gdy brakuje dowodów. Nie traktuj pewności wyrażonej w prozie jako skalibrowanego prawdopodobieństwa.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
W jednej rozmowie identyfikujesz produkt LX-240. „Która część pasuje?” ma tam sens, ale nowej rozmowie brakuje identyfikatora. Wznowienie punktu kontrolnego różni się od odzyskania trwałej preferencji.
Spróbuj sam
- Porównaj pytanie w dwóch rozmowach i zapisz ich dostępny kontekst.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
W nowej rozmowie zapytaj o model produktu. Nie zakładaj, że aplikacja zachowuje preferencje podczas rozmów. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Długa historia może zawierać nieaktualne fakty. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Czy punkt kontrolny jest trwałą pamięcią użytkownika?
Nie. Zapisanie przebiegu nie oznacza zachowania preferencji podczas rozmów.
Czy monit może zastąpić kontrolę dostępu?
Nie. Instrukcja nie stanowi granicy autoryzacji.
Jaki wynik powinno dać to ćwiczenie?
W nowej rozmowie zapytaj o model produktu. Nie zakładaj, że aplikacja zachowuje preferencje podczas rozmów.
Pojęcia do zapamiętania
- Punkt kontrolny: Zapisany stan używany do wznowienia wykonywania.
- Kilka strzałów: Rozwiązane przykłady dostarczone w kontekście.
- Grunt: Oparcie odpowiedzi na weryfikowalnych dowodach.
Źródła i następny krok
Aby przygotować: F03 — Co to jest LLM i jak odpowiada?