Prompt, RAG of fine-tuning?

Deze methoden veranderen verschillende dingen. Maak een keuze op basis van de vraag of het probleem instructies, feiten of herhaald gedrag betreft.

Je kunt deze cursus volgen zonder account of programmering. Voorbeelden maken gebruik van synthetische gegevens en AI-resultaten moeten worden gecontroleerd.

Hoe het werkt, stap voor stap

Instructies, kennis en aanpassing

Een prompt verandert verzoekinstructies en voorbeelden. RAG verandert beschikbaar bewijsmateriaal zonder het model te wijzigen. Bij het afstemmen worden parameters aangepast voor herhaald gedrag of taken en zijn kwaliteitsgegevens en evaluatie nodig. LoRA/PEFT traint een kleinere parameterset voor efficiënte aanpassing. Door destillatie wordt gedrag van het ene model naar het andere overgebracht; kwantisering vermindert de numerieke precisie voor efficiënte gevolgtrekkingen, met afwegingen. Geen enkele repareert automatisch verkeerde bronnen. Voor vaak veranderende regels is het bijwerken van documenten doorgaans gemakkelijker te verifiëren dan opnieuw trainen.

RAG heeft toegang tot bewijsmateriaal, maar herschoolt niet

RAG betekent retrieval-augmentedgeneration: ophalen levert relevante passages op voordat het model antwoordt. Ingestion bereidt documenten voor, terwijl de uitvoering van query's de index doorzoekt en context opbouwt. Een inbeddingsmodel geeft tekst numeriek weer; het responsmodel schrijft het antwoord. Rerankers, vision-, grafiek- en routermodellen vervullen indien nodig verschillende rollen. RAG helpt bij privé- of veranderende informatie, maar garandeert de waarheid niet. Gebruik een geautoriseerde API voor saldi, exacte inventarisatie of machtigingen; een oud document is geen betrouwbare bron voor de huidige stand van zaken.

Definieer succes voordat u gaat optimaliseren

Bereid representatieve verzoeken en verwachte antwoorden of eigenschappen voor. Inclusief gewone gevallen, dubbelzinnigheid, ontbrekende gegevens en gereedschapsfouten. Meet voor RAG het ophalen van bewijsmateriaal afzonderlijk van de correctheid van het antwoord. Recall@k meet het aandeel relevant bewijsmateriaal gevonden in de eerste k-resultaten; Precision@k meet het aandeel geretourneerde resultaten dat relevant is. Voor agenten: houd ook acties, machtigingen en stoppen bij. Een LLM-als-rechter kan de evaluatie versnellen, maar moet worden gekalibreerd ten opzichte van mensen. Wijzig de prompt, het model en de index niet tegelijkertijd als u wilt begrijpen wat de resultaten verbeterden.

Het verklarende schema

Volg de ononderbroken pijlen voor de hoofdstroom. Gestippelde blauwe pijlen leveren gegevens of context; roze pijlen geven feedback of geretourneerde resultaten weer. Kleuren en vormen onderscheiden modellen, winkels, beslissingen en resultaten. Scrol op kleine schermen horizontaal om het hele schema te volgen.

Een compleet voorbeeld

Een overdreven technische toon heeft een duidelijkere aansporing nodig. Een nieuw beleid heeft bijgewerkte bronnen en RAG nodig. Herhaalde specialistische opmaak kan verfijning rechtvaardigen nadat eenvoudigere opties zijn geëvalueerd.

Probeer het zelf

1. Kies een oplossing voor toon, live stock, een nieuw beleid en herhaalde opmaak.
2. Leg de input, bron en verwachte uitkomst vast voordat u het experiment uitvoert. Gebruik alleen de fictieve gegevens in het voorbeeld.
3. Volg de diagramfasen. Registreer bij elke stap welke informatie wordt ontvangen en geproduceerd; verwar de tussentijdse output niet met het uiteindelijke resultaat.
4. Herhaal dit nadat de noodzakelijke informatie is verwijderd of de invoer dubbelzinnig is gemaakt. Controleer of het systeem een ​​antwoord verduidelijkt, stopt of verzint.
5. Vergelijk met de uitgelegde oplossing. Bewaar de configuratie, datum, resultaat en een verklaring voor verschillen. Verander één ding en test opnieuw.

Een uitgelegde oplossing

Gebruik aanwijzingen voor vereisten, RAG voor documenten en aanpassingen alleen met adequate gegevens en evaluatie. Met een succesvolle oefening kun je het verband tussen input, fasen en uitkomst laten zien. Als er informatie ontbreekt, is een voorzichtig antwoord nuttiger dan verzonnen details. Vergelijk meer dan stijl: controleer ook voorwaarden, bronnen en bewerkingen.

Wanneer deze aanpak helpt en wat de beperkingen zijn

Fine-tuning is geen live database. Kies deze aanpak wanneer deze een gemeten behoefte verbetert. Houd een eenvoudige basislijn aan en vergelijk de resultaten met behulp van identieke inputs. Eén succesvol voorbeeld garandeert niet in elke situatie betrouwbaarheid.

Controleer wat je hebt geleerd

Is finetunen de eerste keuze voor de huidige voorraad?

Nee. Gebruik een geautoriseerde live bron voor snel veranderende informatie.

Verandert RAG de LLM-parameters?

Nee. Het levert context op verzoektijd; parameterwijzigingen horen bij training.

Welk resultaat moet deze oefening opleveren?

Gebruik aanwijzingen voor vereisten, RAG voor documenten en aanpassingen alleen met adequate gegevens en evaluatie.

Begrippen om te onthouden

• Fijnafstemming: Aanpassen van modelparameters aan de hand van taakspecifieke voorbeelden.
• Ophalen: Relevante informatie vinden in toegankelijke bronnen.
• Regressie / regressie: Een wijziging die een voorheen correcte casus doorbreekt.

Bronnen en uw volgende stap

• Hugging Face — PEFT
• Lewis et al. — Retrieval-Augmented Generation
• LangGraph — Workflows en agenten

Ter voorbereiding: P06 — Redenering en verificatie