De ce AI poate greși convingător?

Un răspuns bine scris poate ascunde o informație greșită. Verificarea începe cu întrebarea: pe ce dovadă se sprijină fiecare afirmație?

Poți parcurge acest curs fără cont și fără programare. Exemplele sunt sintetice și rezultatele AI trebuie verificate.

Cum funcționează, pas cu pas

Fluența și adevărul se verifică separat

O halucinație este un conținut nesusținut sau incorect prezentat drept răspuns. Poate apărea din lipsă de informație, ambiguitate sau combinarea greșită a unor tipare. Cere dovezi și verifică documentul original, data, unitățile și condițiile. O citare care există poate să nu susțină afirmația. Pentru date actuale folosește o sursă actuală; pentru calcule folosește un calculator; pentru lipsa datelor acceptă „nu pot determina”. Nu trata nivelul de încredere exprimat în text drept probabilitate calibrată.

RAG este acces la dovezi, nu reantrenare

RAG înseamnă retrieval-augmented generation: căutarea furnizează fragmente relevante modelului înainte de răspuns. Ingestia pregătește documentele, iar interogarea caută în index și construiește contextul. Modelul de embeddings reprezintă textul numeric; modelul de răspuns redactează. Rerankerul, vision, graph și router au roluri diferite, când sunt necesare. RAG ajută pentru informație privată sau schimbătoare, dar nu garantează adevărul. Pentru solduri, stoc exact sau permisiuni folosește un API autorizat; un document vechi nu este sursă sigură pentru starea curentă.

Definește succesul înainte de optimizare

Pregătește un set de cereri reprezentative și răspunsuri sau proprietăți așteptate. Include cazuri obișnuite, ambigue, fără date și cu erori de unelte. Pentru RAG măsoară separat găsirea dovezii și corectitudinea răspunsului. Recall@k urmărește proporția dovezilor relevante găsite în primele k rezultate; precision@k urmărește proporția rezultatelor relevante. Pentru agenți urmărește și acțiunile, accesul și oprirea. Un LLM-as-judge poate accelera evaluarea, dar se calibrează față de oameni. Nu modifica simultan promptul, modelul și indexul dacă vrei să înțelegi cauza îmbunătățirii.

Harta vizuală

Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.

Un exemplu complet

Politica fictivă spune 14 zile pentru produs nefolosit. Răspunsul spune „30 de zile, fără condiții”. Nu corectăm doar numărul: verificăm și condiția omisă și existența unei surse valabile.

Încearcă tu

1. Marchează fiecare afirmație ca susținută, contrazisă sau fără dovezi.
2. Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
3. Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
4. Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
5. Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.

Soluție comentată

Răspunsul corect păstrează 14 zile și condiția produsului nefolosit; pentru alte situații cere clarificare. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.

Când merită și ce poate merge prost

RAG reduce lipsa contextului, dar nu elimină toate halucinațiile. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.

Verifică ce ai înțeles

Ajunge să existe un link în răspuns?

Nu; sursa trebuie să susțină exact afirmația și să fie potrivită momentului și situației.

RAG modifică parametrii LLM-ului?

Nu. Furnizează context la cerere; schimbarea parametrilor aparține antrenării.

Ce rezultat trebuie să obții în acest exercițiu?

Răspunsul corect păstrează 14 zile și condiția produsului nefolosit; pentru alte situații cere clarificare.

Cuvinte de ținut minte

• Grounding: Ancorarea răspunsului în dovezi verificabile.
• Retrieval: Căutarea informației relevante în surse accesibile.
• Regresie / Regression: O schimbare care strică un caz anterior corect.

Surse și următorul pas

• Hugging Face — LLM Course
• Lewis et al. — Retrieval-Augmented Generation
• LangGraph — Workflows and agents

Pentru pregătire: F04 — Contextul și memoria: ce vede AI acum?