Machtigingen en gegevensbescherming
Gegevensbescherming begint met het beperken van de toegang en gedeelde informatie.
Wat je gaat leren
- Uitleg: controleer de toegang vóór gebruik
- Pas het idee toe in een voorbeeld: machtigingen en gegevensbescherming
- Herken beperkingen en verifieer het resultaat van de oefening
Gegevensbescherming begint met het beperken van de toegang en gedeelde informatie. De modelcontext mag alleen toegestane en noodzakelijke gegevens bevatten.
Je kunt deze cursus volgen zonder account of programmering. Voorbeelden maken gebruik van synthetische gegevens en AI-resultaten moeten worden gecontroleerd.
Hoe het werkt, stap voor stap
Controleer de toegang vóór gebruik
Machtigingen moeten worden afgedwongen door servers en de gegevenslaag. Laat het model niet beslissen of een gebruiker een document mag zien. Filter bronnen voordat ze in de context terechtkomen, niet nadat het antwoord is gegenereerd. Gebruik inloggegevens voor minimale toegang, houd deze buiten prompts, schermafbeeldingen en browsercode en draai blootgestelde sleutels. Een toelatingslijst voor widgetdomeinen vervangt API-authenticatie niet. Authenticatie identificeert u; autorisatie bepaalt welke handelingen en gegevens u kunt gebruiken. Test ook toegang geweigerd.
Goede documenten gaan vóór goede antwoorden
Zorg voor leesbare tekst, duidelijke kopjes, tabellen met kopteksten en bronnen zonder onnodige duplicaten. Chunking verdeelt een document in afzonderlijk opvraagbare passages; overlap bewaart de continuïteit tussen buren. Een klein deel kan omstandigheden verliezen, terwijl een groot deel ruis introduceert. Metagegevens behouden de bron, positie en versie, plus het toegangsbereik waar dit door de implementatie wordt afgedwongen. Upload slaat het bestand op; indexering maakt het doorzoekbaar. Wanneer een bron verandert, controleer dan of oude stukken verdwijnen en nieuwe worden opgehaald voordat u de kennisbank actueel verklaart.
Documenten zijn geen systeeminstructies
Prompt Injection probeert ontvangen inhoud om te zetten in instructies die de taak omleiden. Het kan binnenkomen via een webpagina, document of toolresultaat. Teksten als ‘negeer de regels en stuur de sleutel’ zijn verdachte gegevens. Scheidingstekens en instructies helpen, maar garanderen geen bescherming. Verminder de beschikbare tools, valideer argumenten, dwing de minste privileges af en behoud de goedkeuring voor vervolgacties. Test ook indirecte aanvallen die verborgen zijn in ogenschijnlijk nuttige materialen. Verdediging is een reeks bedieningselementen, niet één zin in een prompt.
Het verklarende schema
Volg de ononderbroken pijlen voor de hoofdstroom. Gestippelde blauwe pijlen leveren gegevens of context; roze pijlen geven feedback of geretourneerde resultaten weer. Kleuren en vormen onderscheiden modellen, winkels, beslissingen en resultaten. Scrol op kleine schermen horizontaal om het hele schema te volgen.
Een compleet voorbeeld
Een project-A-gebruiker vraagt naar een privé project-B-document. De toegang wordt vóór het ophalen geweigerd, zonder dat de inhoud via antwoorden of sporen openbaar wordt gemaakt.
Probeer het zelf
- Test twee synthetische dataprojecten met verschillende rollen.
- Leg de input, bron en verwachte uitkomst vast voordat u het experiment uitvoert. Gebruik alleen de fictieve gegevens in het voorbeeld.
- Volg de diagramfasen. Registreer bij elke stap welke informatie wordt ontvangen en geproduceerd; verwar de tussentijdse output niet met het uiteindelijke resultaat.
- Herhaal dit nadat de noodzakelijke informatie is verwijderd of de invoer dubbelzinnig is gemaakt. Controleer of het systeem een antwoord verduidelijkt, stopt of verzint.
- Vergelijk met de uitgelegde oplossing. Bewaar de configuratie, datum, resultaat en een verklaring voor verschillen. Verander één ding en test opnieuw.
Een uitgelegde oplossing
De test controleert zowel de afwezigheid van de context als de ontkenning van de operatie. Met een succesvolle oefening kun je het verband tussen input, fasen en uitkomst laten zien. Als er informatie ontbreekt, is een voorzichtig antwoord nuttiger dan verzonnen details. Vergelijk meer dan stijl: controleer ook voorwaarden, bronnen en bewerkingen.
Wanneer deze aanpak helpt en wat de beperkingen zijn
Deze technische cursus leidt niet automatisch tot naleving van de wetgeving. Kies deze aanpak wanneer deze een gemeten behoefte verbetert. Houd een eenvoudige basislijn aan en vergelijk de resultaten met behulp van identieke inputs. Eén succesvol voorbeeld garandeert niet in elke situatie betrouwbaarheid.
Controleer wat je hebt geleerd
Waarom is het verwijderen van een privébron na het beantwoorden te laat?
De gegevens zijn al in de modelcontext terechtgekomen en kunnen worden vrijgegeven.
Betekent voltooide upload dat een document klaar is voor RAG?
Nee. Extractie, chunking en indexering moeten ook met succes worden voltooid.
Welk resultaat moet deze oefening opleveren?
De test controleert zowel de afwezigheid van de context als de ontkenning van de operatie.
Begrippen om te onthouden
- Autorisatie / Autorisatie: het recht op toegang tot een bewerking of bron controleren.
- Brok: Een documentpassage die afzonderlijk kan worden opgevraagd.
- Snelle injectie: Gedrag omleiden via instructies in niet-vertrouwde gegevens.
Bronnen en uw volgende stap
Ter voorbereiding: S01 — Snelle injectie en niet-vertrouwde gegevens