Context en geheugen: wat ziet AI?

Context is de werkbank van het model. Geheugen is wat de applicatie besluit te behouden en terug te brengen naar die werkbank.

Je kunt deze cursus volgen zonder account of programmering. Voorbeelden maken gebruik van synthetische gegevens en AI-resultaten moeten worden gecontroleerd.

Hoe het werkt, stap voor stap

Context is de werkbank

Context omvat instructies, de huidige aanvraag, relevante geschiedenis, opgehaalde documenten en toolresultaten. Het contextvenster heeft een beperkte capaciteit; reserveer ook ruimte voor de reactie. Meer tekst verbetert niet automatisch de nauwkeurigheid. Irrelevante informatie en tegenstrijdigheden kunnen belangrijk bewijsmateriaal verbergen. Vat de gespreksgeschiedenis zorgvuldig samen en bewaar de oorsprong van feiten. De status beschrijft de huidige run, een controlepunt slaat een hervatbaar punt op en het persistente geheugen bewaart informatie over de runs heen. Dit zijn verschillende mechanismen die door de applicatie worden beheerd.

Een opdracht is een contract

Een goede prompt specificeert de taak, beschikbare gegevens, uitvoerformaat en succescriteria. Scheid de rol van de gegevens en voeg een voorbeeld toe voor onduidelijke gevallen. ‘Wees accuraat’ is zwakker dan ‘vermeld alleen de deadline in het aangeleverde beleid; als deze ontbreekt, vraag dan om opheldering’. Few-shot betekent een paar opgeloste voorbeelden, niet een eindeloze lijst. De inhoud van documenten blijft gegevens, zelfs als deze opdrachten bevat. Scheidingstekens helpen, maar software moet machtigingen en validatie afdwingen in plaats van te vertrouwen op de prompt.

Vloeiendheid en waarheid worden afzonderlijk gecontroleerd

Een hallucinatie is niet-ondersteunde of onjuiste inhoud die als antwoord wordt gepresenteerd. Het kan voortkomen uit ontbrekende informatie, onduidelijkheid of verkeerd gecombineerde patronen. Vraag om bewijsmateriaal en controleer het originele document, de datum, de eenheden en de voorwaarden. Een echt citaat kan de bewering nog steeds niet ondersteunen. Gebruik actuele bronnen voor actuele feiten, een rekenmachine voor rekenen, en ‘kan niet vaststellen’ wanneer bewijs ontbreekt. Beschouw het in proza ​​uitgedrukte vertrouwen niet als een gekalibreerde waarschijnlijkheid.

Het verklarende schema

Volg de ononderbroken pijlen voor de hoofdstroom. Gestippelde blauwe pijlen leveren gegevens of context; roze pijlen geven feedback of geretourneerde resultaten weer. Kleuren en vormen onderscheiden modellen, winkels, beslissingen en resultaten. Scrol op kleine schermen horizontaal om het hele schema te volgen.

Een compleet voorbeeld

In één gesprek identificeer je product LX-240. “Welk onderdeel past?” is daar logisch, maar een nieuw gesprek mist de identificatie. Het hervatten van een checkpoint verschilt van het ophalen van een persistente voorkeur.

Probeer het zelf

1. Vergelijk een vraag in twee gesprekken en leg de beschikbare context vast.
2. Leg de input, bron en verwachte uitkomst vast voordat u het experiment uitvoert. Gebruik alleen de fictieve gegevens in het voorbeeld.
3. Volg de diagramfasen. Registreer bij elke stap welke informatie wordt ontvangen en geproduceerd; verwar de tussentijdse output niet met het uiteindelijke resultaat.
4. Herhaal dit nadat de noodzakelijke informatie is verwijderd of de invoer dubbelzinnig is gemaakt. Controleer of het systeem een ​​antwoord verduidelijkt, stopt of verzint.
5. Vergelijk met de uitgelegde oplossing. Bewaar de configuratie, datum, resultaat en een verklaring voor verschillen. Verander één ding en test opnieuw.

Een uitgelegde oplossing

Vraag in het nieuwe gesprek naar het productmodel. Ga er niet van uit dat de applicatie voorkeuren voor gesprekken behoudt. Met een succesvolle oefening kun je het verband tussen input, fasen en uitkomst laten zien. Als er informatie ontbreekt, is een voorzichtig antwoord nuttiger dan verzonnen details. Vergelijk meer dan stijl: controleer ook voorwaarden, bronnen en bewerkingen.

Wanneer deze aanpak helpt en wat de beperkingen zijn

Een lange geschiedenis kan verlopen feiten bevatten. Kies deze aanpak wanneer deze een gemeten behoefte verbetert. Houd een eenvoudige basislijn aan en vergelijk de resultaten met behulp van identieke inputs. Eén succesvol voorbeeld garandeert niet in elke situatie betrouwbaarheid.

Controleer wat je hebt geleerd

Is een controlepunt permanent gebruikersgeheugen?

Nee. Het opslaan van een run betekent niet dat de voorkeuren voor gesprekken behouden blijven.

Kan een prompt de toegangscontrole vervangen?

Nee. Een instructie is geen autorisatiegrens.

Welk resultaat moet deze oefening opleveren?

Vraag in het nieuwe gesprek naar het productmodel. Ga er niet van uit dat de applicatie voorkeuren voor gesprekken behoudt.

Begrippen om te onthouden

• Controlepunt: opgeslagen status die wordt gebruikt om een ​​uitvoering te hervatten.
• Weinig schot: Opgeloste voorbeelden geleverd in context.
• Aarding: Een antwoord baseren op verifieerbaar bewijs.

Bronnen en uw volgende stap

• LangGraph — Workflows en agenten
• OWASP — Promptinjectie
• Hugging Face — LLM Course

Ter voorbereiding: F03 — Wat is een LLM en hoe beantwoordt deze?