Parallel: kilka perspektyw jednocześnie
Równolegle rozdziela niezależne podzadania, a następnie agreguje wyniki.
Czego się dowiesz
- Wyjaśnij: przepływ pracy ma wyraźną strukturę
- Zastosuj tę ideę na przykładzie: Równolegle: kilka perspektyw jednocześnie
- Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń
Równolegle rozdziela niezależne podzadania, a następnie agreguje wyniki. Wyobraź sobie trzech recenzentów czytających ten sam opis z różnych perspektyw.
Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.
Jak to działa, krok po kroku
Przepływ pracy ma wyraźną strukturę
Węzeł jest etapem, krawędź jest przejściem, a stan przenosi wyniki pomiędzy etapami. Przepływ pracy ma ścieżkę zdefiniowaną przez aplikację, chociaż model może wybierać niektóre gałęzie. Systemy agentowe obejmują zarówno przepływy pracy, jak i dynamicznie działających agentów. Nymrio oferuje rozwiązania ReAct, Reflection, Sequential, Orchestrator, Router, Parallel oraz Plan-and-Execute. Każdy zmienia koordynację; nie czyni to automatycznie modelu ekspertem. Więcej agentów oznacza więcej rozmów i umów między rolami. Zacznij od najprostszego rozwiązania, które przejdzie Twoje testy.
Koszt dotyczy całej ścieżki
Zliczaj wywołania modeli, tokeny wejściowe i wyjściowe, osadzanie, reranking, wizję i narzędzia. Rozumowanie może zużywać płatne tokeny bez równie długiej widocznej odpowiedzi. Koszty indeksowania i koszty rozmów są różne. Używaj aktualnych cen, a nie stałego numeru z kursu. Prosty szacunek to tokeny/1 000 000 × cena plus dodatkowe operacje; Kredyty aplikacyjne mogą mieć własną konwersję. Porównaj koszt udanego zadania, a nie tylko połączenia. Wykonywanie równoległe może zmniejszyć opóźnienia, jednocześnie zwiększając całkowite zużycie. Budżet wymaga zweryfikowanego warunku zatrzymania.
Zdefiniuj sukces przed optymalizacją
Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.
Szczegółowe laboratorium
Niezależność i agregacja
Splitter: „Rozpowszechniaj niezależne recenzje tego samego opisu”. Przejrzystość: „Zidentyfikuj żargon i niejednoznaczność”. Przydatność: „Sprawdź, czy wyjaśniono potrzeby i ograniczenia”. Zgodność: „Porównaj roszczenia z katalogiem bez założeń”. Agregator: „Zachowaj źródła, połącz ustalenia i wyjaśnij różnice zdań”.
„LX-240 jest idealny do każdego adaptera” produkuje niejasności, przesadę i sprzeczność z katalogowym adapterem A-7. W raporcie końcowym zaleca się usunięcie uogólnienia. Nie głosuj w celu ustalenia zgodności fizycznej. Jeśli pracownik polega na wnioskach innego pracownika, przesuń ten etap do odpowiedniego łańcucha.
Schemat objaśniający
Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Niezależni pracownicy działają jednocześnie; agregator łączy swoje ustalenia, a nie większość głosów. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.
Kompletny przykład
Splitter rozdziela kontrole przejrzystości, użyteczności i kompatybilności. Pracownicy działają osobno. Agregator zachowuje poparte ustalenia i wyjaśnia różnice zdań.
splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter
Spróbuj sam
- Przypisz rozdzielacz, co najmniej dwóch pracowników i agregator; niezależne oddziały otrzymują te same dane wejściowe.
- Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
- Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
- Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
- Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.
Wyjaśnione rozwiązanie
Raport końcowy uwzględnia ustalenia pracowników i nie traktuje głosowania większością jako dowodu. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.
Kiedy to podejście pomaga i jakie ma ograniczenia
Pracownik potrzebujący wyników innego pracownika nie jest niezależny. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.
Sprawdź swoją wiedzę
Czy multiagent to ósmy szablon?
Nie. Jest to kategoria architektoniczna, w której można wykorzystać kilka istniejących szablonów.
Czy więcej jednoczesnych połączeń jest automatycznie tańszych?
Nie. Czas, który upłynął i całkowite zużycie to różne wielkości.
Jaki wynik powinno dać to ćwiczenie?
Raport końcowy uwzględnia ustalenia pracowników i nie traktuje głosowania większością jako dowodu.
Pojęcia do zapamiętania
- Ukłon: Etap na wykresie wykonania.
- Latență / Opóźnienie: Czas do użytecznego wyniku.
- Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.
Źródła i następny krok
Aby przygotować: W06 — Router: wysyłaj żądania do odpowiedniego specjalisty