Contextul și memoria: ce vede AI acum?
Contextul este masa de lucru a modelului.
Ce vei învăța
- Explici: contextul este masa de lucru
- Aplici ideea într-un exemplu: Contextul și memoria: ce vede AI acum?
- Recunoști limitele și verifici rezultatul exercițiului
Contextul este masa de lucru a modelului. Memoria este ceea ce aplicația decide să păstreze și să aducă din nou pe acea masă.
Poți parcurge acest curs fără cont și fără programare. Exemplele sunt sintetice și rezultatele AI trebuie verificate.
Cum funcționează, pas cu pas
Contextul este masa de lucru
Contextul include instrucțiuni, cererea curentă, istoricul relevant, documente recuperate și rezultate ale uneltelor. Fereastra de context are o capacitate limitată; rezervă loc și pentru răspuns. Mai mult text nu înseamnă automat mai multă precizie. Informațiile irelevante și contradicțiile pot ascunde dovezile importante. Rezumă istoricul cu grijă și păstrează sursa faptelor. Starea descrie execuția curentă, checkpoint-ul salvează un punct de reluare, iar memoria persistentă păstrează informații între rulări. Acestea sunt mecanisme diferite, gestionate de aplicație.
Instrucțiunea este un contract
Un prompt bun spune ce trebuie făcut, cu ce date, în ce format și cum recunoști succesul. Separă rolul de date și include un exemplu pentru cazurile ambigue. „Fii precis” este mai slab decât „menționează doar termenul din politica furnizată; dacă lipsește, cere clarificare”. Few-shot înseamnă câteva exemple rezolvate, nu o listă fără sfârșit. Conținutul unui document rămâne date chiar dacă include imperative. Delimitarea ajută, dar permisiunile și validarea trebuie aplicate de software, nu doar cerute prin prompt.
Fluența și adevărul se verifică separat
O halucinație este un conținut nesusținut sau incorect prezentat drept răspuns. Poate apărea din lipsă de informație, ambiguitate sau combinarea greșită a unor tipare. Cere dovezi și verifică documentul original, data, unitățile și condițiile. O citare care există poate să nu susțină afirmația. Pentru date actuale folosește o sursă actuală; pentru calcule folosește un calculator; pentru lipsa datelor acceptă „nu pot determina”. Nu trata nivelul de încredere exprimat în text drept probabilitate calibrată.
Harta vizuală
Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.
Un exemplu complet
Într-o conversație spui că produsul este LX-240. „Ce piesă se potrivește?” are sens acolo, dar într-o conversație nouă lipsește identificatorul. Reluarea unui checkpoint și recuperarea unei preferințe persistente sunt operații diferite.
Încearcă tu
- Compară o întrebare în două conversații și notează exact ce context există.
- Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
- Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
- Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
- Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.
Soluție comentată
În conversația nouă, cere modelul produsului. Nu presupune că aplicația reține preferința între conversații. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.
Când merită și ce poate merge prost
Un istoric foarte lung poate conține fapte expirate. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.
Verifică ce ai înțeles
Un checkpoint este memorie permanentă a utilizatorului?
Nu. Salvarea unei execuții nu implică păstrarea preferințelor între conversații.
Un prompt poate înlocui controlul accesului?
Nu. O instrucțiune nu este o barieră de autorizare.
Ce rezultat trebuie să obții în acest exercițiu?
În conversația nouă, cere modelul produsului. Nu presupune că aplicația reține preferința între conversații.
Cuvinte de ținut minte
- Checkpoint: Stare salvată pentru reluarea unei execuții.
- Few-shot: Exemple rezolvate oferite în context.
- Grounding: Ancorarea răspunsului în dovezi verificabile.
Surse și următorul pas
Pentru pregătire: F03 — Ce este un LLM și cum produce un răspuns?