RAG avanzato oltre i modelli attuali
RAG avanzato aggiunge tecniche per i guasti misurati.
Cosa imparerai
- Spiegare: lo straccio accede alle prove, non si riqualifica
- Applica l'idea in un esempio: RAG avanzato oltre i modelli attuali
- Riconoscere i limiti e verificare il risultato dell'esercizio
RAG avanzato aggiunge tecniche per i guasti misurati. Non sono automaticamente opzioni nei modelli locali.
Questo è un laboratorio concettuale o esterno. Non presuppone che l'applicazione esponga tutti i controlli descritti.
Come funziona, passo dopo passo
RAG accede alle prove, non riqualifica
RAG significa generazione aumentata dal recupero: il recupero fornisce passaggi rilevanti prima che il modello risponda. L'inserimento prepara i documenti, mentre l'esecuzione delle query ricerca nell'indice e crea il contesto. Un modello di incorporamento rappresenta il testo numericamente; il modello di risposta scrive la risposta. I modelli di riclassificazione, visione, grafico e router svolgono ruoli diversi quando necessario. RAG aiuta con informazioni private o mutevoli ma non garantisce la verità. Utilizzare un'API autorizzata per saldi, inventario esatto o autorizzazioni; un vecchio documento non è una fonte affidabile per lo stato attuale.
La ricerca e il posizionamento sono fasi diverse
Il recupero seleziona i candidati e li ordina in classifica. top_k è il numero di risultati richiesti; incrementarlo può portare evidenza ma anche rumore. Un reranker esamina la query e i candidati più da vicino. Non può recuperare un passaggio mancante dall'elenco iniziale. BM25 cerca corrispondenze lessicali e aiuta con i codici esatti; la ricerca vettoriale cerca la somiglianza semantica. RRF combina le posizioni nelle classifiche invece di aggiungere punteggi con unità incompatibili. Le fasi aggiuntive devono giustificare la loro qualità, latenza e costi attraverso i test.
Definire il successo prima di ottimizzare
Preparare richieste rappresentative e risposte o proprietà previste. Includere casi ordinari, ambiguità, dati mancanti ed errori dello strumento. Per RAG, misurare il recupero delle prove separatamente dalla correttezza della risposta. Recall@k misura la quota di prove rilevanti trovate nei primi k risultati; Precision@k misura la quota di risultati restituiti che sono rilevanti. Per gli agenti, monitora anche azioni, autorizzazioni e arresti. Un LLM come giudice può accelerare la valutazione ma necessita di una calibrazione rispetto agli esseri umani. Non modificare prompt, modello e indice contemporaneamente se vuoi capire quali risultati migliorati.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Questi controlli di recupero avanzati sono concetti esterni, non modelli di applicazione aggiuntivi. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
La riscrittura delle query chiarisce le query; varianti di ricerche multi-query; HyDE crea un ipotetico testo di recupero; il recupero contestuale arricchisce i blocchi. Controlli correttivi/auto-RAG e possibile ripetizione del recupero; il recupero agentico sceglie i passaggi in modo dinamico.
Provalo tu stesso
- Riscrivi tre domande ambigue e verifica che l'intento rimanga invariato.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Conservare la query originale e verificare se i guadagni nel recupero giustificano chiamate extra; il testo ipotetico non costituisce una prova. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
La riscrittura può cambiare significato o eliminare un identificatore esatto. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
RAG modifica i parametri LLM?
No. Fornisce il contesto della richiesta-ora; le modifiche ai parametri appartengono all'addestramento.
Un reranker può correggere un documento non indicizzato?
No. Il passaggio deve prima esistere nell'indice e nella lista dei candidati.
Quale risultato dovrebbe produrre questo esercizio?
Conservare la query originale e verificare se i guadagni nel recupero giustificano chiamate extra; il testo ipotetico non costituisce una prova.
Termini da ricordare
- Recupero: trovare informazioni rilevanti in fonti accessibili.
- Riclassificare: Un riordino più attento dei candidati già recuperati.
- Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.
Fonti e il prossimo passo
Per preparare: D06 — Aggiornamenti, cancellazioni e reindicizzazioni