Parallel: più prospettive contemporaneamente
Parallel distribuisce sottoattività indipendenti e quindi aggrega i risultati.
Cosa imparerai
- Spiegare: un flusso di lavoro ha una struttura esplicita
- Applica l'idea in un esempio: Parallelo: più prospettive contemporaneamente
- Riconoscere i limiti e verificare il risultato dell'esercizio
Parallel distribuisce sottoattività indipendenti e quindi aggrega i risultati. Immagina tre revisori che leggono una descrizione da diverse prospettive.
Questi passaggi si riferiscono alle funzionalità identificate nel codice dell'applicazione. Questo materiale non è stato convalidato su un'istanza live; controlla la documentazione e le opzioni nella tua versione.
Come funziona, passo dopo passo
Un flusso di lavoro ha una struttura esplicita
Un nodo è una fase, un bordo è una transizione e lo stato trasporta i risultati tra le fasi. Un flusso di lavoro ha un percorso definito dall'applicazione, sebbene il modello possa scegliere alcuni rami. I sistemi ad agenti includono sia flussi di lavoro che agenti che agiscono dinamicamente. Nymrio offre ReAct, Reflection, Sequential, Orchestrator, Router, Parallel e Plan-and-Execute. Ciascuno cambia coordinazione; non rende automaticamente un modello un esperto. Più agenti significano più chiamate e contratti tra i ruoli. Inizia con la soluzione più semplice che supera i tuoi test.
Il costo appartiene all'intero percorso
Conta le chiamate ai modelli, i token di input e output, gli incorporamenti, la riclassificazione, la visione e gli strumenti. Il ragionamento può consumare token fatturabili senza una risposta visibile altrettanto lunga. I costi di indicizzazione e i costi di conversazione differiscono. Utilizza i prezzi correnti anziché un numero permanente di un corso. Una stima semplice è token/1.000.000 × prezzo più operazioni aggiuntive; i crediti dell'applicazione possono avere la propria conversione. Confronta i costi per attività riuscita, non solo per chiamata. L'esecuzione parallela può ridurre la latenza aumentando al contempo il consumo totale. Un budget necessita di una condizione di arresto verificata.
Definire il successo prima di ottimizzare
Preparare richieste rappresentative e risposte o proprietà previste. Includere casi ordinari, ambiguità, dati mancanti ed errori dello strumento. Per RAG, misurare il recupero delle prove separatamente dalla correttezza della risposta. Recall@k misura la quota di prove rilevanti trovate nei primi k risultati; Precision@k misura la quota di risultati restituiti che sono rilevanti. Per gli agenti, monitora anche azioni, autorizzazioni e arresti. Un LLM come giudice può accelerare la valutazione ma necessita di una calibrazione rispetto agli esseri umani. Non modificare prompt, modello e indice contemporaneamente se vuoi capire quali risultati migliorati.
Laboratorio dettagliato
Indipendenza e aggregazione
Splitter: “Distribuisci recensioni indipendenti con la stessa descrizione”. Chiarezza: "Identificare il gergo e l'ambiguità". Utilità: “Verificare se sono spiegati bisogni e limiti”. Compatibilità: “Confronta le affermazioni con il catalogo senza ipotesi”. Aggregatore: “Conserva le fonti, combina i risultati e spiega il disaccordo”.
"LX-240 è perfetto per qualsiasi adattatore" produce vaghezza, promesse eccessive e una contraddizione con l'adattatore del catalogo A-7. Il rapporto finale raccomanda di eliminare la generalizzazione. Non votare per determinare la compatibilità fisica. Se un lavoratore dipende dalla conclusione di un altro lavoratore, sposta quella fase in una catena appropriata.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. I lavoratori indipendenti corrono contemporaneamente; l'aggregatore combina i loro risultati, non un voto a maggioranza. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
Lo splitter distribuisce controlli di chiarezza, utilità e compatibilità. I lavoratori lavorano separatamente. L'aggregatore conserva i risultati supportati e spiega il disaccordo.
splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter
Provalo tu stesso
- Assegnare lo splitter, almeno due lavoratori e l'aggregatore; rami indipendenti ricevono lo stesso input.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Il rapporto finale distingue i risultati dei lavoratori e non tratta il voto a maggioranza come prova. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
Un lavoratore che necessita della produzione di un altro lavoratore non è indipendente. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Multi-agente è un ottavo modello?
No. È una categoria architettonica che può utilizzare diversi modelli esistenti.
Più chiamate simultanee sono automaticamente più economiche?
No. Il tempo trascorso e il consumo totale sono quantità diverse.
Quale risultato dovrebbe produrre questo esercizio?
Il rapporto finale distingue i risultati dei lavoratori e non tratta il voto a maggioranza come prova.
Termini da ricordare
- Cenno: Una fase in un grafico di esecuzione.
- Latență / Latenza: tempo necessario per ottenere un risultato utile.
- Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.
Fonti e il prossimo passo
Per preparare: W06 — Router: invia richieste allo specialista giusto