Parallel: mai multe perspective în același timp

Parallel distribuie subtask-uri independente, apoi agregă rezultatele. Imaginează-ți trei evaluatori care citesc aceeași descriere din perspective diferite.

Pașii se referă la funcționalități identificate în codul aplicației. Validarea pe o instanță live nu a fost efectuată pentru acest material; verifică documentația și opțiunile din versiunea ta.

Cum funcționează, pas cu pas

Un workflow are structură explicită

Nodul este o etapă, muchia este o trecere, iar starea transportă rezultatele între etape. Într-un workflow traseul este definit de aplicație, deși modelul poate decide unele ramuri. Sistemele agentice includ atât workflows cât și agenți cu decizii dinamice. În Nymrio există ReAct, Reflection, Sequential, Orchestrator, Router, Parallel și Plan-and-Execute. Fiecare schimbă coordonarea, nu transformă automat modelul într-un expert. Mai mulți agenți înseamnă mai multe apeluri și contracte între roluri. Începe cu soluția cea mai simplă care trece testele tale.

Costul aparține întregului traseu

Numără apelurile de model, tokenii de intrare și ieșire, embeddings, reranking, vision și uneltele. Reasoning poate consuma tokeni facturați fără un răspuns vizibil la fel de lung. Costul indexării și costul conversației sunt diferite. Folosește tarifele curente, nu o cifră permanentă din curs. Estimarea simplă este tokeni/1.000.000 × tarif, plus operații suplimentare; creditele aplicației pot folosi propria conversie. Compară costul per sarcină reușită, nu doar per apel. Parallel poate reduce latența, dar crește consumul total. Bugetul trebuie să aibă o condiție de oprire verificată.

Definește succesul înainte de optimizare

Pregătește un set de cereri reprezentative și răspunsuri sau proprietăți așteptate. Include cazuri obișnuite, ambigue, fără date și cu erori de unelte. Pentru RAG măsoară separat găsirea dovezii și corectitudinea răspunsului. Recall@k urmărește proporția dovezilor relevante găsite în primele k rezultate; precision@k urmărește proporția rezultatelor relevante. Pentru agenți urmărește și acțiunile, accesul și oprirea. Un LLM-as-judge poate accelera evaluarea, dar se calibrează față de oameni. Nu modifica simultan promptul, modelul și indexul dacă vrei să înțelegi cauza îmbunătățirii.

Laborator detaliat

Independență și agregare

Splitter: „Distribuie evaluări independente ale aceleiași descrieri”. Claritate: „Identifică jargonul și propozițiile ambigue”. Utilitate: „Verifică dacă sunt explicate nevoia și limitele”. Compatibilitate: „Compară afirmațiile cu catalogul, fără presupuneri”. Aggregator: „Păstrează sursele, combină constatările și explică dezacordurile”.

Descrierea „LX-240 este perfectă pentru orice adaptor” produce o observație de jargon/vag, una de promisiune exagerată și o contradicție cu adaptorul A-7 din catalog. Raportul final recomandă eliminarea generalizării. Nu votăm pentru a decide o compatibilitate fizică. Dacă un worker depinde de concluzia altuia, mută acea etapă într-un lanț potrivit.

Harta vizuală

Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Sarcinile independente rulează concurent; aggregator-ul combină constatările, nu un vot majoritar. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.

Un exemplu complet

Splitter-ul distribuie analiza clarității, utilității și compatibilității. Workers lucrează separat. Aggregator-ul păstrează punctele susținute și explică dezacordurile.

splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter

Încearcă tu

1. Atribuie splitter, minimum doi workers și aggregator; aceeași intrare ajunge în ramurile independente.
2. Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
3. Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
4. Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
5. Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.

Soluție comentată

Raportul final distinge observațiile fiecărui worker și nu transformă votul majoritar într-o dovadă. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.

Când merită și ce poate merge prost

Un worker care are nevoie de rezultatul altuia nu este independent. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.

Verifică ce ai înțeles

Multi-agent este un al optulea template?

Nu. Este o categorie de arhitecturi care poate folosi mai multe dintre template-urile existente.

Mai multe apeluri simultane sunt automat mai ieftine?

Nu. Timpul și suma consumului sunt mărimi diferite.

Ce rezultat trebuie să obții în acest exercițiu?

Raportul final distinge observațiile fiecărui worker și nu transformă votul majoritar într-o dovadă.

Cuvinte de ținut minte

• Nod: Etapă din graful unei execuții.
• Latență / Latency: Timpul până la rezultatul util.
• Regresie / Regression: O schimbare care strică un caz anterior corect.

Surse și următorul pas

• LangGraph — Workflows and agents
• OpenRouter — Reasoning tokens

Pentru pregătire: W06 — Router: cererea merge la specialistul potrivit