Context engineering: ce informație ajunge la model?

Context engineering alege informația pe care modelul o vede. Scopul este relevanța, nu umplerea ferestrei de context.

Poți parcurge acest curs fără cont și fără programare. Exemplele sunt sintetice și rezultatele AI trebuie verificate.

Cum funcționează, pas cu pas

Contextul este masa de lucru

Contextul include instrucțiuni, cererea curentă, istoricul relevant, documente recuperate și rezultate ale uneltelor. Fereastra de context are o capacitate limitată; rezervă loc și pentru răspuns. Mai mult text nu înseamnă automat mai multă precizie. Informațiile irelevante și contradicțiile pot ascunde dovezile importante. Rezumă istoricul cu grijă și păstrează sursa faptelor. Starea descrie execuția curentă, checkpoint-ul salvează un punct de reluare, iar memoria persistentă păstrează informații între rulări. Acestea sunt mecanisme diferite, gestionate de aplicație.

RAG este acces la dovezi, nu reantrenare

RAG înseamnă retrieval-augmented generation: căutarea furnizează fragmente relevante modelului înainte de răspuns. Ingestia pregătește documentele, iar interogarea caută în index și construiește contextul. Modelul de embeddings reprezintă textul numeric; modelul de răspuns redactează. Rerankerul, vision, graph și router au roluri diferite, când sunt necesare. RAG ajută pentru informație privată sau schimbătoare, dar nu garantează adevărul. Pentru solduri, stoc exact sau permisiuni folosește un API autorizat; un document vechi nu este sursă sigură pentru starea curentă.

Accesul se verifică înainte de folosire

Permisiunile trebuie aplicate în server și în stratul de date. Nu lăsa modelul să decidă dacă un utilizator poate vedea un document. Filtrează sursele înainte să intre în context, nu după generarea răspunsului. Folosește chei cu acces minim, nu le pune în prompturi, capturi sau cod din browser și rotește-le dacă sunt expuse. O listă de domenii permise pentru widget nu înlocuiește autentificarea API. Autentificarea arată cine ești; autorizarea arată ce operații și date poți folosi. Testează și accesul refuzat.

Harta vizuală

Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.

Un exemplu complet

Pentru o întrebare despre retur, păstrezi politica actuală și produsul, nu zece pagini de istoric despre culori. Dacă două politici se contrazic, marchezi versiunea și nu le amesteci.

Încearcă tu

1. Redu un context de zece paragrafe la informația necesară întrebării.
2. Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
3. Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
4. Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
5. Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.

Soluție comentată

Modelul primește instrucțiunea, întrebarea și dovezile relevante, cu sursa și versiunea păstrate. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.

Când merită și ce poate merge prost

Rezumarea poate pierde condiții; verifică ce a fost eliminat. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.

Verifică ce ai înțeles

Un checkpoint este memorie permanentă a utilizatorului?

Nu. Salvarea unei execuții nu implică păstrarea preferințelor între conversații.

RAG modifică parametrii LLM-ului?

Nu. Furnizează context la cerere; schimbarea parametrilor aparține antrenării.

Ce rezultat trebuie să obții în acest exercițiu?

Modelul primește instrucțiunea, întrebarea și dovezile relevante, cu sursa și versiunea păstrate.

Cuvinte de ținut minte

• Checkpoint: Stare salvată pentru reluarea unei execuții.
• Retrieval: Căutarea informației relevante în surse accesibile.
• Autorizare / Authorization: Verificarea dreptului la o operație sau resursă.

Surse și următorul pas

• LangGraph — Workflows and agents
• Lewis et al. — Retrieval-Augmented Generation
• OWASP — Prompt injection

Pentru pregătire: P01 — Prompt engineering fără formule magice