Router RAG e scelta della strategia di recupero

Il router RAG sceglie una strategia in base alla domanda.

Cosa imparerai

  • Spiegare: lo straccio accede alle prove, non si riqualifica
  • Applica l'idea in un esempio: Router RAG e scegli la tua strategia di recupero
  • Riconoscere i limiti e verificare il risultato dell'esercizio

Il router RAG sceglie una strategia in base alla domanda. Distinguere l'instradamento di recupero dall'instradamento del flusso di lavoro a uno specialista dell'agente.

Questi passaggi si riferiscono alle funzionalità identificate nel codice dell'applicazione. Questo materiale non è stato convalidato su un'istanza live; controlla la documentazione e le opzioni nella tua versione.

Come funziona, passo dopo passo

Confronto e preparazione alla produzione

L'ingenuità è la linea di base. Il riclassificazione migliora l'ordinamento dei candidati; Multimodal prepara anche le immagini; Il grafico segue le relazioni; L'ibrido combina significato e parole; Il router sceglie una strategia. Scegli in base ai fallimenti misurati. Prima della produzione, verifica le fonti attuali, l'accesso prima del recupero, i casi senza risposta, lo stato di indicizzazione e i costi di entrambi i percorsi. Le risposte dirette potrebbero non essere adatte per domande che devono utilizzare la politica aziendale.

Laboratorio dettagliato

Il routing non valuta la verità

Il modello di router classifica una query e seleziona un percorso. Non dimostra il percorso recuperato con prove adeguate. Registra il percorso, le fonti recuperate e le affermazioni supportate. Per le domande sulla politica aziendale, verificare esplicitamente che non sia stata selezionata la generazione diretta invece del recupero.

Prova parafrasi e domande miste come "Di quale adattatore ho bisogno e quanto tempo dura la consegna?". Possono richiedere diversi tipi di prove. La complessità del router è giustificata solo se la selezione migliora il successo o il costo rispetto a una linea di base che utilizza lo stesso corpus.

Lo schema esplicativo

Router RAG e scelta della strategia di recupero Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Viene scelto esattamente un percorso di recupero. Il ramo diretto ignora il recupero e restituisce la propria risposta. Il recupero restituisce prove. Se un modello di risposta è abilitato, compone anche una risposta; le prove recuperate devono ancora essere verificate. Connessioni: Richiesta dell'utente → Router: classificare l'intento; Router: classificare l'intento → Intento e strategia selezionata; Ricerca semantica → Costruisci un contesto di prova; Costruisci un contesto di prova → Modello di risposta (facoltativo); Modello di risposta (facoltativo) → Prove con fonti; Estrai entità dalla query → Attraversamento del grafico limitato; Attraversamento del grafico limitato → Costruisci un contesto di prova; Recupero ibrido → Costruisci un contesto di prova; Risposta diretta senza recupero → Risposta finale; Istruzioni e contesto → Router: classificare l'intento; Capacità e vincoli → Router: classificare l'intento; Intento e strategia selezionata → Ricerca semantica (vector); Intento e strategia selezionata → Estrai entità dalla query (graph); Intento e strategia selezionata → Recupero ibrido (hybrid); Intento e strategia selezionata → Risposta diretta senza recupero (direct); Indice vettoriale → Ricerca semantica; Grafico della conoscenza Neo4j → Attraversamento del grafico limitato; Indice vettoriale → Recupero ibrido. R08 · Mappa delle relazioni Router RAG e scelta della strategia di recupero Ingresso Richiesta dell'utente Dati Istruzioni e contesto Dati Capacità e vincoli Modello/agente AI Router: classificare l'intento Decisione/controllo Intento e strategia selezionata Elaborazione Ricerca semantica Modello/agente AI Estrai entità dalla query Elaborazione Recupero ibrido Modello/agente AI Risposta diretta senza recupero Memorizza/indicizza Indice vettoriale Elaborazione Attraversamento del grafico limitato Memorizza/indicizza Grafico della conoscenza Neo4j Elaborazione Costruisci un contesto di prova Modello/agente AI Modello di risposta (facoltativo) Produzione Risposta finale Produzione Prove con fonti vector graph hybrid direct Flusso principale Dati e contesto Feedback e reso

Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Viene scelto esattamente un percorso di recupero. Il ramo diretto ignora il recupero e restituisce la propria risposta. Il recupero restituisce prove. Se un modello di risposta è abilitato, compone anche una risposta; le prove recuperate devono ancora essere verificate. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.

Un esempio completo

La politica di restituzione può utilizzare il vettore; le relazioni parte-adattatore utilizzano il grafico; gli identificatori esatti utilizzano l'ibrido; le domande generali usano direttamente. Il percorso diretto non consulta documenti privati.

Provalo tu stesso

  1. Scegli Router e un modello di router; vettore di test, grafico, ibrido, diretto e una richiesta ambigua.
  2. Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
  3. Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
  4. Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
  5. Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.

Una soluzione spiegata

Registrare il percorso scelto e se le prove sono state effettivamente utilizzate. Confronta tutte e sei le varianti su domande identiche. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.

Quando è utile e quali sono i suoi limiti

La filiale ibrida locale si unisce e deduplica; non applica automaticamente il RRF e il riclassificazione del modello ibrido separato. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.

Verifica ciò che hai imparato

RAG modifica i parametri LLM?

No. Fornisce il contesto della richiesta-ora; le modifiche ai parametri appartengono all'addestramento.

Un reranker può correggere un documento non indicizzato?

No. Il passaggio deve prima esistere nell'indice e nella lista dei candidati.

Quale risultato dovrebbe produrre questo esercizio?

Registrare il percorso scelto e se le prove sono state effettivamente utilizzate. Confronta tutte e sei le varianti su domande identiche.

Termini da ricordare

  • Recupero: trovare informazioni rilevanti in fonti accessibili.
  • Riclassificare: Un riordino più attento dei candidati già recuperati.
  • Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.

Fonti e il prossimo passo

Per preparare: R07 — RAG ibrido: significato e parole esatte

Continua con: D04 — Buone domande per testare RAG · E02 — Valutazione del RAG fase per fase · C03 — Un assistente per documenti complessi