Asistent pentru documente complexe

Folosim un corpus comun pentru a compara strategiile RAG.

Ce vei învăța

  • Explici: căutarea și clasamentul sunt etape diferite
  • Aplici ideea într-un exemplu: Asistent pentru documente complexe
  • Recunoști limitele și verifici rezultatul exercițiului

Folosim un corpus comun pentru a compara strategiile RAG. Schimbarea template-ului trebuie justificată de un rezultat măsurat.

Pașii se referă la funcționalități identificate în codul aplicației. Validarea pe o instanță live nu a fost efectuată pentru acest material; verifică documentația și opțiunile din versiunea ta.

Cum funcționează, pas cu pas

Căutarea și clasamentul sunt etape diferite

Retrieval selectează candidați, iar ranking stabilește ordinea lor. top_k este numărul de rezultate cerut; mărirea lui poate aduce dovezi, dar și zgomot. Un reranker analizează mai atent întrebarea și candidații. Nu poate recupera un pasaj care nu a intrat în lista inițială. BM25 caută potriviri lexicale și ajută pentru coduri exacte; căutarea vectorială caută asemănări semantice. Fuziunea RRF combină pozițiile din liste, nu adună scoruri cu unități incompatibile. Mai multe etape trebuie justificate prin teste, timp și cost.

Relații explicite, cu proveniență

Un graf are entități și relații, precum Produs → folosește → Piesă. Extragerea cu LLM poate confunda nume sau inventa relații; păstrează documentul care susține fiecare fapt. Traversarea cu adâncime limitată caută legături pe mai multe hop-uri. Graph RAG local combină fapte Neo4j cu pasaje vectoriale. Acesta nu este automat pipeline-ul Microsoft GraphRAG cu detecție de comunități și rapoarte. Întrebările despre dependențe pot beneficia de graf; întrebările simple din FAQ pot fi mai ieftine cu retrieval vectorial.

Definește succesul înainte de optimizare

Pregătește un set de cereri reprezentative și răspunsuri sau proprietăți așteptate. Include cazuri obișnuite, ambigue, fără date și cu erori de unelte. Pentru RAG măsoară separat găsirea dovezii și corectitudinea răspunsului. Recall@k urmărește proporția dovezilor relevante găsite în primele k rezultate; precision@k urmărește proporția rezultatelor relevante. Pentru agenți urmărește și acțiunile, accesul și oprirea. Un LLM-as-judge poate accelera evaluarea, dar se calibrează față de oameni. Nu modifica simultan promptul, modelul și indexul dacă vrei să înțelegi cauza îmbunătățirii.

Harta vizuală

Asistent pentru documente complexe Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Compară aceeași întrebare în configurații Multimodal, Graph și Hybrid separate. Răspunsurile sunt evaluate separat, nu reunite într-un template nou. Relații: Documente sursă → Pasaje și metadate de sursă; Pasaje și metadate de sursă → Index vectorial; Documente sursă → Model de viziune: descrie imaginile; Model de viziune: descrie imaginile → Descrieri și referințe vizuale; Descrieri și referințe vizuale → Index vectorial; Cererea utilizatorului → Configurație Multimodal; Configurație Multimodal → Compară cu rezultatele așteptate; Compară cu rezultatele așteptate → Verificare umană; Cererea utilizatorului → Configurație Graph; Configurație Graph → Compară cu rezultatele așteptate; Cererea utilizatorului → Configurație Hybrid; Configurație Hybrid → Compară cu rezultatele așteptate; Index vectorial → Configurație Multimodal; Index vectorial → Configurație Graph; Index vectorial → Configurație Hybrid; Graf de cunoștințe Neo4j → Configurație Graph; Descrieri și referințe vizuale → Configurație Multimodal; Fapte și surse așteptate → Compară cu rezultatele așteptate. C03 · Hartă de relații Asistent pentru documente complexe Intrare Documente sursă Model AI / agent Model de viziune: descrie imaginile Stocare / index Graf de cunoștințe Neo4j Date Pasaje și metadate de sursă Stocare / index Index vectorial Date Descrieri și referințe vizuale Intrare Cererea utilizatorului Procesare Configurație Multimodal Procesare Configurație Graph Procesare Configurație Hybrid Decizie / control Compară cu rezultatele așteptate Date Fapte și surse așteptate Decizie / control Verificare umană Flux principal Date și context Feedback și revenire

Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Compară aceeași întrebare în configurații Multimodal, Graph și Hybrid separate. Răspunsurile sunt evaluate separat, nu reunite într-un template nou. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.

Un exemplu complet

Întrebările includ coduri exacte, sinonime, relații între piese și surse absente. Testezi Naive, Rerank, Graph, Hybrid și Router; adaugi Multimodal numai cu ingestie vision verificată.

Date fictive pentru exercițiu

Sursă Informație de folosit
Catalog LX-240 folosește piesa P-12; P-12 folosește adaptorul A-7.
Retur Solicitare în 14 zile de la primire; produs nefolosit, în ambalajul original.
Livrare Estimare de 2–3 zile lucrătoare după expediere, fără garanție.

Întrebări de pornire: „Ce adaptor folosește LX-240?”, „Pot returna un produs folosit?” și „În câte zile ajunge?”. Adaugă cazuri ambigue și întrebări fără răspuns în aceste date. Păstrează aceeași sursă la toate comparațiile.

Încearcă tu

  1. Rulează același set pe toate variantele și inspectează fiecare caz în care rezultatele diferă.
  2. Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
  3. Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
  4. Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
  5. Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.

Soluție comentată

Tabelul arată dovezi găsite, corectitudine, timp, consum și ruta Router, inclusiv direct. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.

Când merită și ce poate merge prost

Surse sau întrebări diferite invalidează comparația. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.

Verifică ce ai înțeles

Un reranker repară un document neindexat?

Nu. Mai întâi trebuie ca pasajul să existe în index și în lista de candidați.

O muchie extrasă de AI dovedește că relația este adevărată?

Nu. Verifică sursa și identitatea entităților.

Ce rezultat trebuie să obții în acest exercițiu?

Tabelul arată dovezi găsite, corectitudine, timp, consum și ruta Router, inclusiv direct.

Cuvinte de ținut minte

  • Rerank: Reordonarea mai atentă a candidaților deja găsiți.
  • Hop: Trecerea peste o relație din graf.
  • Regresie / Regression: O schimbare care strică un caz anterior corect.

Surse și următorul pas

Pentru pregătire: R04 — Rerank RAG: pune dovezile bune în față · R05 — Multimodal RAG: documentele au și imagini · R06 — Graph RAG și grafuri de cunoștințe · R07 — Hybrid RAG: sens și cuvinte exacte · R08 — Router RAG și alegerea variantei potrivite · E02 — Evaluarea RAG separat pe etape