Valutare agenti e team
Un agente può scrivere una buona risposta dopo un'azione sbagliata.
Cosa imparerai
- Spiegare: definire il successo prima di ottimizzare
- Applica l'idea in un esempio: valutare agenti e team
- Riconoscere i limiti e verificare il risultato dell'esercizio
Un agente può scrivere una buona risposta dopo un'azione sbagliata. Valutare tutto il percorso.
Puoi seguire questo corso senza un account o una programmazione. Gli esempi utilizzano dati sintetici e i risultati dell’intelligenza artificiale devono essere verificati.
Come funziona, passo dopo passo
Definire il successo prima di ottimizzare
Preparare richieste rappresentative e risposte o proprietà previste. Includere casi ordinari, ambiguità, dati mancanti ed errori dello strumento. Per RAG, misurare il recupero delle prove separatamente dalla correttezza della risposta. Recall@k misura la quota di prove rilevanti trovate nei primi k risultati; Precision@k misura la quota di risultati restituiti che sono rilevanti. Per gli agenti, monitora anche azioni, autorizzazioni e arresti. Un LLM come giudice può accelerare la valutazione ma necessita di una calibrazione rispetto agli esseri umani. Non modificare prompt, modello e indice contemporaneamente se vuoi capire quali risultati migliorati.
Il modello propone, lo strumento esegue
La chiamata allo strumento produce una richiesta di chiamata con un nome e argomenti. L'applicazione convalida lo schema, le autorizzazioni e i limiti prima dell'esecuzione. Il risultato ritorna al contesto per il passaggio successivo. Ad esempio, get_product_stock accetta uno SKU e restituisce una quantità; la sua descrizione dovrebbe spiegare che non effettua prenotazioni di prodotti. Distinguere risultati vuoti, errori di convalida, accessi mancanti e timeout. Un JSON valido non dimostra che gli argomenti siano corretti o che l'azione sia autorizzata. Per gli effetti esterni, considerare anche l'esecuzione duplicata.
Un flusso di lavoro ha una struttura esplicita
Un nodo è una fase, un bordo è una transizione e lo stato trasporta i risultati tra le fasi. Un flusso di lavoro ha un percorso definito dall'applicazione, sebbene il modello possa scegliere alcuni rami. I sistemi ad agenti includono sia flussi di lavoro che agenti che agiscono dinamicamente. Nymrio offre ReAct, Reflection, Sequential, Orchestrator, Router, Parallel e Plan-and-Execute. Ciascuno cambia coordinazione; non rende automaticamente un modello un esperto. Più agenti significano più chiamate e contratti tra i ruoli. Inizia con la soluzione più semplice che supera i tuoi test.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
Un agente segnala la quantità corretta ma ha richiesto un altro SKU. Un team cita la politica ma omette il disaccordo dei lavoratori. Entrambi sono fallimenti nonostante il convincente testo finale.
Provalo tu stesso
- Confronta due tracce e segna la prima deviazione dalla porta.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Controlla argomenti, ruoli, operazioni, fonti e interruzioni, quindi la qualità del testo. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
LLM come giudice può essere parziale e necessita di calibrazione umana. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Un buon punteggio di stile dimostra il successo dell'agente?
No. L'agente potrebbe scrivere magnificamente dopo aver utilizzato lo strumento o i dati sbagliati.
Chi esegue una chiamata proposta dal modello?
L'applicazione o il servizio host dopo la convalida. Il modello non ottiene automaticamente l'accesso illimitato.
Quale risultato dovrebbe produrre questo esercizio?
Controlla argomenti, ruoli, operazioni, fonti e interruzioni, quindi la qualità del testo.
Termini da ricordare
- Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.
- Chiamata dello strumento: una richiesta strutturata per utilizzare una funzionalità esterna.
- Cenno: Una fase in un grafico di esecuzione.
Fonti e il prossimo passo
Per preparare: E02 — Valutazione del RAG fase per fase