Konsekwentne działania i akceptacja ludzi

Czytanie, sporządzanie i wykonywanie transakcji wiąże się z różnymi zagrożeniami.

Czego się dowiesz

  • Wyjaśnij: model proponuje, narzędzie wykonuje
  • Zastosuj tę ideę na przykładzie: Konsekwentne działania i akceptacja ludzi
  • Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń

Czytanie, sporządzanie i wykonywanie transakcji wiąże się z różnymi zagrożeniami. Oddziel propozycję od jej realizacji.

Jest to laboratorium koncepcyjne lub zewnętrzne. Nie zakłada się, że aplikacja udostępnia wszystkie opisane elementy sterujące.

Jak to działa, krok po kroku

Model proponuje, narzędzie wykonuje

Wywołanie narzędzia generuje żądanie wywołania z nazwą i argumentami. Aplikacja przed wykonaniem sprawdza schemat, uprawnienia i limity. Wynik powraca do kontekstu dla następnego kroku. Na przykład get_product_stock pobiera SKU i zwraca ilość; w jego opisie powinno być wyjaśnione, że nie rezerwuje produktów. Rozróżnij puste wyniki, błędy walidacji, brak dostępu i przekroczenia limitu czasu. Prawidłowy kod JSON nie dowodzi, że argumenty są poprawne lub że akcja jest autoryzowana. W przypadku efektów zewnętrznych należy również rozważyć wykonanie podwójne.

Przed użyciem sprawdź dostęp

Uprawnienia muszą być egzekwowane przez serwery i warstwę danych. Nie pozwól, aby model decydował o tym, czy użytkownik może zobaczyć dokument. Filtruj źródła zanim wejdą w kontekst, a nie po wygenerowaniu odpowiedzi. Używaj poświadczeń o minimalnym dostępie, trzymaj je z dala od monitów, zrzutów ekranu i kodu przeglądarki oraz obracaj odsłonięte klucze. Lista dozwolonych domen widżetów nie zastępuje uwierzytelniania API. Uwierzytelnienie identyfikuje Cię; autoryzacja określa operacje i dane, których możesz użyć. Test również odmówił dostępu.

Błędy wymagają wyraźnych ścieżek

Limit czasu różni się od błędu uprawnień. Ponawiaj tylko błędy przejściowe, z ograniczonymi próbami i rosnącymi opóźnieniami. Operacja powodująca skutki uboczne może zostać wykonana przed utratą odpowiedzi; ponowna próba bez klucza idempotencji może zduplikować efekt. Przesyłanie strumieniowe pokazuje postęp, ale nie gwarantuje ukończenia. Punkty kontrolne mogą pozwolić na wznowienie nieudanych etapów w ramach limitów czasu wykonania. Przechowuj identyfikator przebiegu, etap, czas trwania i błąd podczas usuwania wpisów tajnych z dzienników. Mierz wolne ścieżki i średnie.

Schemat objaśniający

Konsekwentne działania i akceptacja ludzi Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Zatwierdzenie przez człowieka to koncepcja integracji aplikacji; monit z prośbą o zatwierdzenie nie jest egzekwowaniem. Znajomości: Żądanie użytkownika → Agent / LLM; Agent / LLM → Proponowane wywołanie narzędzia; Proponowane wywołanie narzędzia → Sprawdź argumenty i uprawnienia; Sprawdź argumenty i uprawnienia → Człowiek zatwierdza działanie; Człowiek zatwierdza działanie → Działania zewnętrzne; Działania zewnętrzne → Ślad wykonania; Ślad wykonania → Wynik do sprawdzenia; Uprawnienia dostępu → Sprawdź argumenty i uprawnienia; Limity kroków i iteracji → Sprawdź argumenty i uprawnienia; Człowiek zatwierdza działanie → Odrzuć lub przestań (Zaprzeczony). S03 · Mapa relacji Konsekwentne działania i akceptacja ludzi Wejście Żądanie użytkownika Decyzja / kontrola Uprawnienia dostępu Decyzja / kontrola Limity kroków i iteracji Model/agent AI Agent / LLM Dane Proponowane wywołanie narzędzia Decyzja / kontrola Sprawdź argumenty i uprawnienia Decyzja / kontrola Człowiek zatwierdza działanie Wyjście Odrzuć lub przestań Narzędzie / usługa Działania zewnętrzne Sklep / indeks Ślad wykonania Wyjście Wynik do sprawdzenia Zaprzeczony Główny przepływ Dane i kontekst Informacje zwrotne i zwrot

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Zatwierdzenie przez człowieka to koncepcja integracji aplikacji; monit z prośbą o zatwierdzenie nie jest egzekwowaniem. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

„Czy możesz anulować zamówienie?” może rozpocząć się od przeczytania i podglądu. Wykonanie musi potwierdzać identyfikator, skutek i autoryzację; odpowiedź modelu nie jest akceptacją użytkownika.

Spróbuj sam

  1. Narysuj proces anulowania z podglądem, zatwierdzeniem i ochroną przed duplikatami.
  2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
  3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
  4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
  5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Akcja nie jest wykonywana bez wymaganej kontroli; audyt oddziela propozycję od realizacji. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

To jest przykład architektoniczny; nie zakłada wdrożonej kontroli zatwierdzania interfejsu użytkownika. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Kto realizuje połączenie zaproponowane przez modelkę?

Aplikacja lub usługa hosta po sprawdzeniu poprawności. Model nie uzyskuje automatycznie nieograniczonego dostępu.

Dlaczego usunięcie prywatnego źródła po udzieleniu odpowiedzi jest zbyt późne?

Dane weszły już w kontekst modelu i mogą zostać ujawnione.

Jaki wynik powinno dać to ćwiczenie?

Akcja nie jest wykonywana bez wymaganej kontroli; audyt oddziela propozycję od realizacji.

Pojęcia do zapamiętania

  • Wywołanie narzędzia: Ustrukturyzowane żądanie użycia możliwości zewnętrznej.
  • Autoryzacja / Autoryzacja: Sprawdzanie prawa dostępu do operacji lub zasobu.
  • Idempotencja: Kontrolowane powtarzanie bez powielania efektu.

Źródła i następny krok

Aby przygotować: S02 — Uprawnienia i ochrona danych