Riclassificare RAG: prima prove migliori
La riclassificazione aggiunge una selezione più attenta dopo il recupero.
Cosa imparerai
- Spiega: la ricerca e il posizionamento sono fasi diverse
- Applica l'idea in un esempio: Riclassifica RAG: prima prove migliori
- Riconoscere i limiti e verificare il risultato dell'esercizio
La riclassificazione aggiunge una selezione più attenta dopo il recupero. Aiuta quando esistono buone prove ma si collocano troppo in basso.
Questi passaggi si riferiscono alle funzionalità identificate nel codice dell'applicazione. Questo materiale non è stato convalidato su un'istanza live; controlla la documentazione e le opzioni nella tua versione.
Come funziona, passo dopo passo
La ricerca e il posizionamento sono fasi diverse
Il recupero seleziona i candidati e li ordina in classifica. top_k è il numero di risultati richiesti; incrementarlo può portare evidenza ma anche rumore. Un reranker esamina la query e i candidati più da vicino. Non può recuperare un passaggio mancante dall'elenco iniziale. BM25 cerca corrispondenze lessicali e aiuta con i codici esatti; la ricerca vettoriale cerca la somiglianza semantica. RRF combina le posizioni nelle classifiche invece di aggiungere punteggi con unità incompatibili. Le fasi aggiuntive devono giustificare la loro qualità, latenza e costi attraverso i test.
RAG accede alle prove, non riqualifica
RAG significa generazione aumentata dal recupero: il recupero fornisce passaggi rilevanti prima che il modello risponda. L'inserimento prepara i documenti, mentre l'esecuzione delle query ricerca nell'indice e crea il contesto. Un modello di incorporamento rappresenta il testo numericamente; il modello di risposta scrive la risposta. I modelli di riclassificazione, visione, grafico e router svolgono ruoli diversi quando necessario. RAG aiuta con informazioni private o mutevoli ma non garantisce la verità. Utilizzare un'API autorizzata per saldi, inventario esatto o autorizzazioni; un vecchio documento non è una fonte affidabile per lo stato attuale.
Il costo appartiene all'intero percorso
Conta le chiamate ai modelli, i token di input e output, gli incorporamenti, la riclassificazione, la visione e gli strumenti. Il ragionamento può consumare token fatturabili senza una risposta visibile altrettanto lunga. I costi di indicizzazione e i costi di conversazione differiscono. Utilizza i prezzi correnti anziché un numero permanente di un corso. Una stima semplice è token/1.000.000 × prezzo più operazioni aggiuntive; i crediti dell'applicazione possono avere la propria conversione. Confronta i costi per attività riuscita, non solo per chiamata. L'esecuzione parallela può ridurre la latenza aumentando al contempo il consumo totale. Un budget necessita di una condizione di arresto verificata.
Laboratorio dettagliato
Interpretare gli elenchi iniziali e finali
initial_top_k determina il conteggio dei candidati recuperati; final_top_k determina quanti ne rimangono dopo la riclassificazione. Controlla il riranking selezionato e il suo costo. Il testo di consegna può essere semanticamente vicino a una domanda di risposta senza costituire una prova adeguata.
Confronta le esecuzioni utilizzando corpus, query e modelli di risposta identici. Se il passaggio rilevante è assente in entrambi gli elenchi iniziali, la riclassificazione non può risolverne la causa. Se presente e meglio classificata, controlla anche la risposta finale: un elenco migliore non garantisce che tutte le condizioni siano utilizzate.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Il recupero restituisce prove. Se un modello di risposta è abilitato, compone anche una risposta; le prove recuperate devono ancora essere verificate. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
La politica di rimpatrio è l’ottavo candidato. initial_top_k=15 lo include; final_top_k=5 mantiene i passaggi riclassificati più rilevanti. Con solo quattro candidati iniziali, sarebbe assente.
template: Rerank
initial_top_k: 15
final_top_k: 5
Provalo tu stesso
- Configura un reranker, initial_top_k=15 e final_top_k=5 come esperimento, non come impostazioni universali.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Le prove corrette sono incluse e meglio ordinate; confrontare qualità e costo con Naive. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
La riclassificazione non può correggere fonti non indicizzate o non autorizzate. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Un reranker può correggere un documento non indicizzato?
No. Il passaggio deve prima esistere nell'indice e nella lista dei candidati.
RAG modifica i parametri LLM?
No. Fornisce il contesto della richiesta-ora; le modifiche ai parametri appartengono all'addestramento.
Quale risultato dovrebbe produrre questo esercizio?
Le prove corrette sono incluse e meglio ordinate; confrontare qualità e costo con Naive.
Termini da ricordare
- Riclassificare: Un riordino più attento dei candidati già recuperati.
- Recupero: trovare informazioni rilevanti in fonti accessibili.
- Latență / Latenza: tempo necessario per ottenere un risultato utile.
Fonti e il prossimo passo
Per preparare: R03 — Naive RAG: la tua linea di base