Parallel: kilka perspektyw jednocześnie

Równolegle rozdziela niezależne podzadania, a następnie agreguje wyniki.

Czego się dowiesz

  • Wyjaśnij: przepływ pracy ma wyraźną strukturę
  • Zastosuj tę ideę na przykładzie: Równolegle: kilka perspektyw jednocześnie
  • Rozpoznaj ograniczenia i zweryfikuj rezultaty ćwiczeń

Równolegle rozdziela niezależne podzadania, a następnie agreguje wyniki. Wyobraź sobie trzech recenzentów czytających ten sam opis z różnych perspektyw.

Kroki te odnoszą się do funkcji zidentyfikowanych w kodzie aplikacji. Ten materiał nie został sprawdzony na żywo; sprawdź dokumentację i opcje w swojej wersji.

Jak to działa, krok po kroku

Przepływ pracy ma wyraźną strukturę

Węzeł jest etapem, krawędź jest przejściem, a stan przenosi wyniki pomiędzy etapami. Przepływ pracy ma ścieżkę zdefiniowaną przez aplikację, chociaż model może wybierać niektóre gałęzie. Systemy agentowe obejmują zarówno przepływy pracy, jak i dynamicznie działających agentów. Nymrio oferuje rozwiązania ReAct, Reflection, Sequential, Orchestrator, Router, Parallel oraz Plan-and-Execute. Każdy zmienia koordynację; nie czyni to automatycznie modelu ekspertem. Więcej agentów oznacza więcej rozmów i umów między rolami. Zacznij od najprostszego rozwiązania, które przejdzie Twoje testy.

Koszt dotyczy całej ścieżki

Zliczaj wywołania modeli, tokeny wejściowe i wyjściowe, osadzanie, reranking, wizję i narzędzia. Rozumowanie może zużywać płatne tokeny bez równie długiej widocznej odpowiedzi. Koszty indeksowania i koszty rozmów są różne. Używaj aktualnych cen, a nie stałego numeru z kursu. Prosty szacunek to tokeny/1 000 000 × cena plus dodatkowe operacje; Kredyty aplikacyjne mogą mieć własną konwersję. Porównaj koszt udanego zadania, a nie tylko połączenia. Wykonywanie równoległe może zmniejszyć opóźnienia, jednocześnie zwiększając całkowite zużycie. Budżet wymaga zweryfikowanego warunku zatrzymania.

Zdefiniuj sukces przed optymalizacją

Przygotuj reprezentatywne prośby i oczekiwane odpowiedzi lub właściwości. Uwzględnij zwykłe przypadki, niejednoznaczność, brakujące dane i błędy narzędzi. W przypadku RAG mierz pozyskiwanie dowodów oddzielnie od poprawności odpowiedzi. Recall@k mierzy udział odpowiednich dowodów znalezionych w pierwszych k wynikach; Precision@k mierzy udział zwróconych wyników, które są istotne. W przypadku agentów śledź także działania, uprawnienia i zatrzymania. Sędzia LLM może przyspieszyć ocenę, ale wymaga kalibracji w stosunku do ludzi. Nie zmieniaj jednocześnie podpowiedzi, modelu i indeksu, jeśli chcesz zrozumieć, co poprawiło wyniki.

Szczegółowe laboratorium

Niezależność i agregacja

Splitter: „Rozpowszechniaj niezależne recenzje tego samego opisu”. Przejrzystość: „Zidentyfikuj żargon i niejednoznaczność”. Przydatność: „Sprawdź, czy wyjaśniono potrzeby i ograniczenia”. Zgodność: „Porównaj roszczenia z katalogiem bez założeń”. Agregator: „Zachowaj źródła, połącz ustalenia i wyjaśnij różnice zdań”.

„LX-240 jest idealny do każdego adaptera” produkuje niejasności, przesadę i sprzeczność z katalogowym adapterem A-7. W raporcie końcowym zaleca się usunięcie uogólnienia. Nie głosuj w celu ustalenia zgodności fizycznej. Jeśli pracownik polega na wnioskach innego pracownika, przesuń ten etap do odpowiedniego łańcucha.

Schemat objaśniający

Parallel: kilka perspektyw jednocześnie Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Niezależni pracownicy działają jednocześnie; agregator łączy swoje ustalenia, a nie większość głosów. Znajomości: Żądanie użytkownika → Splitter: niezależne podzadania; Splitter: niezależne podzadania → Recenzent przejrzystości; Recenzent przejrzystości → Aggregator: łączenie wyników; Aggregator: łączenie wyników → Ostateczna odpowiedź; Splitter: niezależne podzadania → Recenzent użyteczności; Recenzent użyteczności → Aggregator: łączenie wyników; Splitter: niezależne podzadania → Recenzent zgodności; Recenzent zgodności → Aggregator: łączenie wyników; Instrukcje i kontekst → Splitter: niezależne podzadania; Udostępniony stan wykonania → Splitter: niezależne podzadania; Wiedza RAG → Recenzent zgodności. W07 · Mapa relacji Parallel: kilka perspektyw jednocześnie Wejście Żądanie użytkownika Dane Instrukcje i kontekst Sklep / indeks Udostępniony stan wykonania Model/agent AI Splitter: niezależne podzadania Model/agent AI Recenzent przejrzystości Model/agent AI Recenzent użyteczności Model/agent AI Recenzent zgodności Model/agent AI Aggregator: łączenie wyników Sklep / indeks Wiedza RAG Wyjście Ostateczna odpowiedź Główny przepływ Dane i kontekst Informacje zwrotne i zwrot

Postępuj zgodnie ze strzałkami wskazującymi główny przepływ. Przerywane niebieskie strzałki przedstawiają dane lub kontekst; przerywane różowe strzałki pokazują opinie lub zwracane wyniki. Kolory i kształty wyróżniają modele, sklepy, decyzje i wyniki. Niezależni pracownicy działają jednocześnie; agregator łączy swoje ustalenia, a nie większość głosów. Na małym ekranie przewijaj w poziomie, aby zobaczyć cały schemat.

Kompletny przykład

Splitter rozdziela kontrole przejrzystości, użyteczności i kompatybilności. Pracownicy działają osobno. Agregator zachowuje poparte ustalenia i wyjaśnia różnice zdań.

splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter

Spróbuj sam

  1. Przypisz rozdzielacz, co najmniej dwóch pracowników i agregator; niezależne oddziały otrzymują te same dane wejściowe.
  2. Przed rozpoczęciem eksperymentu zapisz dane wejściowe, źródło i oczekiwany wynik. W przykładzie użyj wyłącznie fikcyjnych danych.
  3. Postępuj zgodnie z etapami diagramu. Na każdym etapie zapisuj, jakie informacje zostały otrzymane i wyprodukowane; nie myl produktu pośredniego z efektem końcowym.
  4. Powtórz po usunięciu niezbędnych informacji lub wprowadzeniu niejednoznaczności. Sprawdź, czy system wyjaśnia, zatrzymuje lub wymyśla odpowiedź.
  5. Porównaj z objaśnionym rozwiązaniem. Zachowaj konfigurację, datę, wynik i wyjaśnienie różnic. Zmień jedną rzecz i przetestuj ponownie.

Wyjaśnione rozwiązanie

Raport końcowy uwzględnia ustalenia pracowników i nie traktuje głosowania większością jako dowodu. Pomyślne ćwiczenie pozwala pokazać związek między danymi wejściowymi, etapami i wynikiem. Gdy brakuje informacji, bardziej użyteczna jest ostrożna odpowiedź niż wymyślane szczegóły. Porównaj więcej niż styl: sprawdź także warunki, źródła i operacje.

Kiedy to podejście pomaga i jakie ma ograniczenia

Pracownik potrzebujący wyników innego pracownika nie jest niezależny. Wybierz to podejście, jeśli poprawia ono zmierzoną potrzebę. Zachowaj prostą linię bazową i porównaj wyniki, korzystając z identycznych danych wejściowych. Jeden udany przykład nie gwarantuje niezawodności w każdej sytuacji.

Sprawdź swoją wiedzę

Czy multiagent to ósmy szablon?

Nie. Jest to kategoria architektoniczna, w której można wykorzystać kilka istniejących szablonów.

Czy więcej jednoczesnych połączeń jest automatycznie tańszych?

Nie. Czas, który upłynął i całkowite zużycie to różne wielkości.

Jaki wynik powinno dać to ćwiczenie?

Raport końcowy uwzględnia ustalenia pracowników i nie traktuje głosowania większością jako dowodu.

Pojęcia do zapamiętania

  • Ukłon: Etap na wykresie wykonania.
  • Latență / Opóźnienie: Czas do użytecznego wyniku.
  • Regresja / Regresja: Zmiana, która przerywa poprzednio poprawną wielkość liter.

Źródła i następny krok

Aby przygotować: W06 — Router: wysyłaj żądania do odpowiedniego specjalisty