Waarom antwoordt RAG slecht?

Repareer de mislukte fase. Snelle veranderingen helpen niet als noodzakelijk bewijsmateriaal nooit de context bereikt.

Je kunt deze cursus volgen zonder account of programmering. Voorbeelden maken gebruik van synthetische gegevens en AI-resultaten moeten worden gecontroleerd.

Hoe het werkt, stap voor stap

Goede documenten gaan vóór goede antwoorden

Zorg voor leesbare tekst, duidelijke kopjes, tabellen met kopteksten en bronnen zonder onnodige duplicaten. Chunking verdeelt een document in afzonderlijk opvraagbare passages; overlap bewaart de continuïteit tussen buren. Een klein deel kan omstandigheden verliezen, terwijl een groot deel ruis introduceert. Metagegevens behouden de bron, positie en versie, plus het toegangsbereik waar dit door de implementatie wordt afgedwongen. Upload slaat het bestand op; indexering maakt het doorzoekbaar. Wanneer een bron verandert, controleer dan of oude stukken verdwijnen en nieuwe worden opgehaald voordat u de kennisbank actueel verklaart.

Zoeken en rangschikken zijn verschillende fasen

Retrieval selecteert kandidaten en rangschikt ze. top_k is het aantal opgevraagde resultaten; het vergroten ervan kan bewijs opleveren, maar ook lawaai. Een reranker onderzoekt de vraag en kandidaten nader. Het kan een ontbrekende passage in de oorspronkelijke lijst niet herstellen. BM25 zoekt naar lexicale overeenkomsten en helpt met exacte codes; vector zoeken zoekt naar semantische gelijkenis. RRF combineert posities in gerangschikte lijsten in plaats van scores toe te voegen met incompatibele eenheden. Extra fasen moeten hun kwaliteit, latentie en kosten rechtvaardigen door middel van testen.

Vloeiendheid en waarheid worden afzonderlijk gecontroleerd

Een hallucinatie is niet-ondersteunde of onjuiste inhoud die als antwoord wordt gepresenteerd. Het kan voortkomen uit ontbrekende informatie, onduidelijkheid of verkeerd gecombineerde patronen. Vraag om bewijsmateriaal en controleer het originele document, de datum, de eenheden en de voorwaarden. Een echt citaat kan de bewering nog steeds niet ondersteunen. Gebruik actuele bronnen voor actuele feiten, een rekenmachine voor rekenen, en ‘kan niet vaststellen’ wanneer bewijs ontbreekt. Beschouw het in proza ​​uitgedrukte vertrouwen niet als een gekalibreerde waarschijnlijkheid.

Het verklarende schema

Volg de ononderbroken pijlen voor de hoofdstroom. Gestippelde blauwe pijlen leveren gegevens of context; roze pijlen geven feedback of geretourneerde resultaten weer. Kleuren en vormen onderscheiden modellen, winkels, beslissingen en resultaten. Scrol op kleine schermen horizontaal om het hele schema te volgen.

Een compleet voorbeeld

Staat de tekst in de PDF? Is het eruit gehaald? Bestaat het stuk? Is het een kandidaat geworden? Staat het in de context? Wordt het antwoord correct gebruikt? Deze controles scheiden zes oorzaken.

Probeer het zelf

1. Diagnose van lege extractie, lage ranking, ingekorte voorwaarden, verouderde bronnen en verzonnen claims.
2. Leg de input, bron en verwachte uitkomst vast voordat u het experiment uitvoert. Gebruik alleen de fictieve gegevens in het voorbeeld.
3. Volg de diagramfasen. Registreer bij elke stap welke informatie wordt ontvangen en geproduceerd; verwar de tussentijdse output niet met het uiteindelijke resultaat.
4. Herhaal dit nadat de noodzakelijke informatie is verwijderd of de invoer dubbelzinnig is gemaakt. Controleer of het systeem een ​​antwoord verduidelijkt, stopt of verzint.
5. Vergelijk met de uitgelegde oplossing. Bewaar de configuratie, datum, resultaat en een verklaring voor verschillen. Verander één ding en test opnieuw.

Een uitgelegde oplossing

Identificeer de eerste fase met ontbrekende of onjuiste gegevens en test één gerichte verandering. Met een succesvolle oefening kun je het verband tussen input, fasen en uitkomst laten zien. Als er informatie ontbreekt, is een voorzichtig antwoord nuttiger dan verzonnen details. Vergelijk meer dan stijl: controleer ook voorwaarden, bronnen en bewerkingen.

Wanneer deze aanpak helpt en wat de beperkingen zijn

Het verhogen van top_k kan de lege extractie niet herstellen. Kies deze aanpak wanneer deze een gemeten behoefte verbetert. Houd een eenvoudige basislijn aan en vergelijk de resultaten met behulp van identieke inputs. Eén succesvol voorbeeld garandeert niet in elke situatie betrouwbaarheid.

Controleer wat je hebt geleerd

Betekent voltooide upload dat een document klaar is voor RAG?

Nee. Extractie, chunking en indexering moeten ook met succes worden voltooid.

Kan een reranker een niet-geïndexeerd document repareren?

Nee. De passage moet eerst voorkomen in de index en kandidatenlijst.

Welk resultaat moet deze oefening opleveren?

Identificeer de eerste fase met ontbrekende of onjuiste gegevens en test één gerichte verandering.

Begrippen om te onthouden

• Brok: Een documentpassage die afzonderlijk kan worden opgevraagd.
• Herrangschikken: Een zorgvuldiger herschikking van reeds opgehaalde kandidaten.
• Aarding: Een antwoord baseren op verifieerbaar bewijs.

Bronnen en uw volgende stap

• Lewis et al. — Retrieval-Augmented Generation
• Hugging Face — LLM Course

Ter voorbereiding: D04 — Goede vragen voor het testen van RAG