Widżet AI na Twojej stronie internetowej
Widżet to miejsce, w którym odwiedzający spotykają się z asystentem.
Czego się dowiesz
- Wyjaśnij: ograniczona pętla agenta
- Zastosuj pomysł na przykładzie: Widget AI na Twojej stronie internetowej
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Widżet to miejsce, w którym odwiedzający spotykają się z asystentem. Połącz przejrzystość, właściwy cel i dozwolony dostęp.
Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.
Jak to działa, krok po kroku
Ograniczona pętla agenta
Agent łączy model z narzędziami, celem i stanem. Obserwuje żądanie, wybiera krok, otrzymuje wynik i decyduje, czy kontynuować. Chatbot może generować jedynie tekst; agent może zażądać działania zewnętrznego. Definicje komercyjne są różne, dlatego sprawdź rzeczywistą kontrolę. Zdefiniuj sukces i zatrzymanie: zweryfikowany wynik, maksymalną liczbę kroków, powtarzające się błędy lub wyczerpany budżet. Korzystaj z wąskich możliwości i minimalnych uprawnień. Użyteczna autonomia oznacza wolność w granicach narzuconych przez oprogramowanie.
Przed użyciem sprawdź dostęp
Uprawnienia muszą być egzekwowane przez serwery i warstwę danych. Nie pozwól, aby model decydował o tym, czy użytkownik może zobaczyć dokument. Filtruj źródła zanim wejdą w kontekst, a nie po wygenerowaniu odpowiedzi. Używaj poświadczeń o minimalnym dostępie, trzymaj je z dala od monitów, zrzutów ekranu i kodu przeglądarki oraz obracaj odsłonięte klucze. Lista dozwolonych domen widżetów nie zastępuje uwierzytelniania API. Uwierzytelnienie identyfikuje Cię; autoryzacja określa operacje i dane, których możesz użyć. Test również odmówił dostępu.
Zdefiniuj sukces przed optymalizacją
Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
W Widżetach wybierz agenta, przepływ pracy lub RAG, dostosuj kolory i powitanie, sprawdź podgląd i dozwolone domeny. Użyj fragmentu kodu integracji dostarczonego przez wersję aplikacji.
Spróbuj sam
- Przetestuj na jednej dozwolonej i jednej odrzuconej domenie testowej, a następnie na urządzeniu mobilnym.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
Widżet odpowiada na dozwolonych domenach kontrastowym, czytelnym tekstem i jasnym opisem roli. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Nie umieszczaj prywatnych kluczy API we fragmentach przeglądarki. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Czy większa autonomia zawsze daje lepszy wynik?
Nie. Zwiększa także przestrzeń na błędy, koszty i niepotrzebne działania.
Dlaczego usunięcie prywatnego źródła po udzieleniu odpowiedzi jest zbyt późne?
Dane weszły już w kontekst modelu i mogą zostać ujawnione.
Jaki wynik powinno dać to ćwiczenie?
Widżet odpowiada na dozwolonych domenach kontrastowym, czytelnym tekstem i jasnym opisem roli.
Pojęcia do zapamiętania
- Agent: System, który może wybierać kroki i używać narzędzi do osiągnięcia celu.
- Autoryzacja / Autoryzacja: Sprawdzanie prawa dostępu do operacji lub zasobu.
- Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.
Źródła i następny krok
Aby przygotować: U04 — Rozmowy i informacje zwrotne