Ustrukturyzowane dane wyjściowe i wywoływanie narzędzi

Ustrukturyzowane dane pomagają oprogramowaniu odczytać odpowiedź, ale zarówno struktura, jak i znaczenie wymagają sprawdzenia.

Możesz kontynuować ten kurs bez konta i programowania. W przykładach wykorzystano dane syntetyczne, a wyniki sztucznej inteligencji wymagają sprawdzenia.

Jak to działa, krok po kroku

Model proponuje, narzędzie wykonuje

Wywołanie narzędzia generuje żądanie wywołania z nazwą i argumentami. Aplikacja przed wykonaniem sprawdza schemat, uprawnienia i limity. Wynik powraca do kontekstu dla następnego kroku. Na przykład get_product_stock pobiera SKU i zwraca ilość; w jego opisie powinno być wyjaśnione, że nie rezerwuje produktów. Rozróżnij puste wyniki, błędy walidacji, brak dostępu i przekroczenia limitu czasu. Prawidłowy kod JSON nie dowodzi, że argumenty są poprawne lub że akcja jest autoryzowana. W przypadku efektów zewnętrznych należy również rozważyć wykonanie podwójne.

Instrukcja jest umową

Dobry monit określa zadanie, dostępne dane, format wyjściowy i kryteria sukcesu. Oddziel rolę od danych i załącz przykład dla niejednoznacznych przypadków. „Bądź dokładny” jest słabszy niż „podaj tylko termin w dostarczonej polisie; jeśli go brakuje, poproś o wyjaśnienia”. Kilka strzałów oznacza kilka rozwiązanych przykładów, a nie niekończącą się listę. Treść dokumentu pozostaje danymi nawet wtedy, gdy zawiera polecenia. Ograniczniki pomagają, ale oprogramowanie musi wymuszać uprawnienia i sprawdzanie poprawności, a nie polegać na podpowiedziach.

Przed użyciem sprawdź dostęp

Uprawnienia muszą być egzekwowane przez serwery i warstwę danych. Nie pozwól, aby model decydował o tym, czy użytkownik może zobaczyć dokument. Filtruj źródła zanim wejdą w kontekst, a nie po wygenerowaniu odpowiedzi. Używaj poświadczeń o minimalnym dostępie, trzymaj je z dala od monitów, zrzutów ekranu i kodu przeglądarki oraz obracaj odsłonięte klucze. Lista dozwolonych domen widżetów nie zastępuje uwierzytelniania API. Uwierzytelnienie identyfikuje Cię; autoryzacja określa operacje i dane, których możesz użyć. Test również odmówił dostępu.

Schemat objaśniający

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Klasyfikator zwraca kategorię i needs_review. JSON z kategorią="refund_now" jest składniowo poprawny, ale narusza dozwolone kategorie i nie autoryzuje zwrotu pieniędzy.

{"category":"returns","needs_review":false}

Spróbuj sam

1. Zdefiniuj schemat i przetestuj nieznaną kategorię oraz brakujące pole.
2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Walidator akceptuje tylko dostawę, zwroty lub produkt i wartość logiczną; działania pozostają oddzielne. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Poprawny składniowo JSON nie jest poprawny semantycznie. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Kto realizuje połączenie zaproponowane przez modelkę?

Aplikacja lub usługa hosta po sprawdzeniu poprawności. Model nie uzyskuje automatycznie nieograniczonego dostępu.

Czy monit może zastąpić kontrolę dostępu?

Nie. Instrukcja nie stanowi granicy autoryzacji.

Jaki wynik powinno dać to ćwiczenie?

Walidator akceptuje tylko dostawę, zwroty lub produkt i wartość logiczną; działania pozostają oddzielne.

Pojęcia do zapamiętania

• Wywołanie narzędzia: Ustrukturyzowane żądanie użycia możliwości zewnętrznej.
• Kilka strzałów: Rozwiązane przykłady dostarczone w kontekście.
• Autoryzacja / Autoryzacja: Sprawdzanie prawa dostępu do operacji lub zasobu.

Źródła i następny krok

• LangGraph — Przepływy pracy i agenci
• OWASP — Wstrzykiwanie instrukcji

Aby przygotować: P04 — Jak wybrać odpowiedni model AI