Ograniczona autonomia i interwencja człowieka
Przydatny agent nie potrzebuje nieograniczonych uprawnień.
Czego się dowiesz
- Wyjaśnij: ograniczona pętla agenta
- Zastosuj tę ideę na przykładzie: Ograniczona autonomia i interwencja człowieka
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Przydatny agent nie potrzebuje nieograniczonych uprawnień. Pozwól na czytanie i kreślenie, zachowując kontrolę nad wynikającymi z tego działaniami.
Jest to laboratorium koncepcyjne lub zewnętrzne. Nie zakłada się, że aplikacja udostępnia wszystkie opisane elementy sterujące.
Jak to działa, krok po kroku
Ograniczona pętla agenta
Agent łączy model z narzędziami, celem i stanem. Obserwuje żądanie, wybiera krok, otrzymuje wynik i decyduje, czy kontynuować. Chatbot może generować jedynie tekst; agent może zażądać działania zewnętrznego. Definicje komercyjne są różne, dlatego sprawdź rzeczywistą kontrolę. Zdefiniuj sukces i zatrzymanie: zweryfikowany wynik, maksymalną liczbę kroków, powtarzające się błędy lub wyczerpany budżet. Korzystaj z wąskich możliwości i minimalnych uprawnień. Użyteczna autonomia oznacza wolność w granicach narzuconych przez oprogramowanie.
Przed użyciem sprawdź dostęp
Uprawnienia muszą być egzekwowane przez serwery i warstwę danych. Nie pozwól, aby model decydował o tym, czy użytkownik może zobaczyć dokument. Filtruj źródła zanim wejdą w kontekst, a nie po wygenerowaniu odpowiedzi. Używaj poświadczeń o minimalnym dostępie, trzymaj je z dala od monitów, zrzutów ekranu i kodu przeglądarki oraz obracaj odsłonięte klucze. Lista dozwolonych domen widżetów nie zastępuje uwierzytelniania API. Uwierzytelnienie identyfikuje Cię; autoryzacja określa operacje i dane, których możesz użyć. Test również odmówił dostępu.
Błędy wymagają wyraźnych ścieżek
Limit czasu różni się od błędu uprawnień. Ponawiaj tylko błędy przejściowe, z ograniczonymi próbami i rosnącymi opóźnieniami. Operacja powodująca skutki uboczne może zostać wykonana przed utratą odpowiedzi; ponowna próba bez klucza idempotencji może zduplikować efekt. Przesyłanie strumieniowe pokazuje postęp, ale nie gwarantuje ukończenia. Punkty kontrolne mogą pozwolić na wznowienie nieudanych etapów w ramach limitów czasu wykonania. Przechowuj identyfikator przebiegu, etap, czas trwania i błąd podczas usuwania wpisów tajnych z dzienników. Mierz wolne ścieżki i średnie.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Zatwierdzenie przez człowieka jest kontrolą integracji pojęciowej, a nie wbudowaną konsekwencją proszenia o zatwierdzenie w podpowiedzi. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
Agent proponuje zwrot po sprawdzeniu polityki. Jej propozycja zawiera porządek, rozum i warunki. Zwrot środków to osobna operacja wymagająca autoryzacji i weryfikacji.
Spróbuj sam
- Klasyfikuj operacje jako czytanie, kreślenie, odwracalna zmiana i nieodwracalny skutek.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
Otrzymujesz weryfikowalną ofertę bez automatycznych transakcji i zakładanej pamięci trwałej. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Kontrola zatwierdzania koncepcyjnego nie ustala jej obecności w interfejsie użytkownika. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Czy większa autonomia zawsze daje lepszy wynik?
Nie. Zwiększa także przestrzeń na błędy, koszty i niepotrzebne działania.
Dlaczego usunięcie prywatnego źródła po udzieleniu odpowiedzi jest zbyt późne?
Dane weszły już w kontekst modelu i mogą zostać ujawnione.
Jaki wynik powinno dać to ćwiczenie?
Otrzymujesz weryfikowalną ofertę bez automatycznych transakcji i zakładanej pamięci trwałej.
Pojęcia do zapamiętania
- Agent: System, który może wybierać kroki i używać narzędzi do osiągnięcia celu.
- Autoryzacja / Autoryzacja: Sprawdzanie prawa dostępu do operacji lub zasobu.
- Idempotencja: Kontrolowane powtarzanie bez powielania efektu.
Źródła i następny krok
Aby przygotować: A05 — Wyszukiwanie w sieci i wykonywanie kodu