Chunking e metadati
Il Chunking determina la quantità di contesto recuperata in un passaggio.
Cosa imparerai
- Spiega: i buoni documenti vengono prima delle buone risposte
- Applica l'idea in un esempio: Chunking e metadati
- Riconoscere i limiti e verificare il risultato dell'esercizio
Il Chunking determina la quantità di contesto recuperata in un passaggio. I metadati ci dicono da dove proviene e se è attuale.
Questo è un laboratorio concettuale o esterno. Non presuppone che l'applicazione esponga tutti i controlli descritti.
Come funziona, passo dopo passo
I buoni documenti vengono prima delle buone risposte
Prepara testo leggibile, titoli chiari, tabelle con intestazioni e fonti senza duplicati inutili. Il Chunking divide un documento in passaggi recuperabili separatamente; la sovrapposizione preserva la continuità tra i vicini. Un pezzo corto può perdere condizioni, mentre uno grande introduce rumore. I metadati preservano l'origine, la posizione e la versione, oltre all'ambito di accesso laddove imposto dall'implementazione. Il caricamento memorizza il file; l'indicizzazione lo rende ricercabile. Quando una fonte cambia, controlla che i vecchi blocchi scompaiano e che quelli nuovi vengano recuperati prima di dichiarare corrente la knowledge base.
Coordinate di significato
Un incorporamento è un vettore numerico calcolato da un modello. I testi con significati correlati tendono a trovarsi uno vicino all’altro nello spazio di quel modello, ma la somiglianza non garantisce la rilevanza. Le query e i documenti devono condividere uno spazio compatibile: modello e dimensioni corrispondenti. Una mappa a due assi è illustrativa; i vettori reali possono avere centinaia o migliaia di dimensioni. Ricostruisci e riprova l'indice quando cambi modello o dimensioni. La somiglianza del coseno confronta le direzioni dei vettori; non è la probabilità che una risposta sia vera.
Definire il successo prima di ottimizzare
Preparare richieste rappresentative e risposte o proprietà previste. Includere casi ordinari, ambiguità, dati mancanti ed errori dello strumento. Per RAG, misurare il recupero delle prove separatamente dalla correttezza della risposta. Recall@k misura la quota di prove rilevanti trovate nei primi k risultati; Precision@k misura la quota di risultati restituiti che sono rilevanti. Per gli agenti, monitora anche azioni, autorizzazioni e arresti. Un LLM come giudice può accelerare la valutazione ma necessita di una calibrazione rispetto agli esseri umani. Non modificare prompt, modello e indice contemporaneamente se vuoi capire quali risultati migliorati.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
Separare “14 giorni” da “solo non utilizzati” fa perdere la condizione. Tenere insieme regole ed eccezioni; conservare le intestazioni delle tabelle nelle rappresentazioni estratte.
Provalo tu stesso
- Dividere la policy in due modi e confrontare le informazioni perse ai confini.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Il passaggio pertinente conserva la scadenza e la condizione, oltre all'identificatore della fonte. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
Non dare per scontato che esista un controllo dell'interfaccia utente di dimensioni di un blocco a meno che non venga esposto. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Il caricamento completato significa che un documento è pronto per RAG?
No. Anche l'estrazione, la suddivisione in blocchi e l'indicizzazione devono essere completate correttamente.
Puoi confrontare direttamente i vettori di diversi modelli?
Generalmente no; i loro spazi non sono automaticamente compatibili.
Quale risultato dovrebbe produrre questo esercizio?
Il passaggio pertinente preserva la scadenza e la condizione, oltre all'identificatore della fonte.
Termini da ricordare
- Pezzo: Un passaggio di documento che può essere recuperato separatamente.
- Incorporamento: una rappresentazione numerica utilizzata per confrontare il contenuto.
- Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.
Fonti e il prossimo passo
Per preparare: D02: caricamento, indicizzazione rapida e indicizzazione batch