De la prototip la asistent pentru vizitatori
Lansarea cere mai mult decât un demo.
Ce vei învăța
- Explici: accesul se verifică înainte de folosire
- Aplici ideea într-un exemplu: De la prototip la asistent pentru vizitatori
- Recunoști limitele și verifici rezultatul exercițiului
Lansarea cere mai mult decât un demo. Închidem proiectul cu widget, buget, limite de acces și proces de întreținere.
Pașii se referă la funcționalități identificate în codul aplicației. Validarea pe o instanță live nu a fost efectuată pentru acest material; verifică documentația și opțiunile din versiunea ta.
Cum funcționează, pas cu pas
Accesul se verifică înainte de folosire
Permisiunile trebuie aplicate în server și în stratul de date. Nu lăsa modelul să decidă dacă un utilizator poate vedea un document. Filtrează sursele înainte să intre în context, nu după generarea răspunsului. Folosește chei cu acces minim, nu le pune în prompturi, capturi sau cod din browser și rotește-le dacă sunt expuse. O listă de domenii permise pentru widget nu înlocuiește autentificarea API. Autentificarea arată cine ești; autorizarea arată ce operații și date poți folosi. Testează și accesul refuzat.
Erorile au nevoie de trasee explicite
Un timeout nu este același lucru cu o eroare de permisiune. Reîncearcă doar erorile tranzitorii, cu un număr limitat de încercări și pauze crescătoare. O operație cu efecte poate fi executată înainte ca răspunsul să se piardă; repetarea fără cheie de idempotency poate dubla efectul. Streaming arată progresul, dar nu garantează finalizarea. Checkpoint-urile pot permite reluarea etapelor eșuate, în limitele runtime-ului. Păstrează identificatorul rulării, etapa, durata și eroarea, eliminând secretele din logs. Măsoară și cel mai lent traseu, nu doar media.
Costul aparține întregului traseu
Numără apelurile de model, tokenii de intrare și ieșire, embeddings, reranking, vision și uneltele. Reasoning poate consuma tokeni facturați fără un răspuns vizibil la fel de lung. Costul indexării și costul conversației sunt diferite. Folosește tarifele curente, nu o cifră permanentă din curs. Estimarea simplă este tokeni/1.000.000 × tarif, plus operații suplimentare; creditele aplicației pot folosi propria conversie. Compară costul per sarcină reușită, nu doar per apel. Parallel poate reduce latența, dar crește consumul total. Bugetul trebuie să aibă o condiție de oprire verificată.
Harta vizuală
Urmărește săgețile continue pentru fluxul principal. Săgețile albastre punctate furnizează date sau context; cele roz punctate arată feedback sau rezultate care revin. Culorile și formele disting modelele, stocările, deciziile și rezultatele. Pe ecrane mici, derulează orizontal pentru a urmări întreaga diagramă.
Un exemplu complet
Widgetul indică rolul asistentului, rulează numai pe domenii permise și folosește o țintă testată. Echipa verifică surse, erori, mobil și cost, apoi definește cine revizuiește politicile.
Încearcă tu
- Completează checklist-ul de acces, calitate, domenii, mobil, buget și întreținere înainte de publicare.
- Notează intrarea, sursa și rezultatul așteptat înainte să rulezi experimentul. Folosește doar datele fictive din exemplu.
- Urmărește etapele din diagramă. La fiecare pas scrie ce informație primește și ce produce; nu confunda rezultatul intermediar cu rezultatul final.
- Repetă cazul după eliminarea unei informații necesare sau după o intrare ambiguă. Verifică dacă sistemul cere clarificare, se oprește sau inventează.
- Compară cu soluția comentată. Păstrează configurația, data, rezultatul și o explicație pentru orice diferență. Schimbă un singur lucru și retestează.
Soluție comentată
Livrabilul include integrare, teste permise/refuzate, criterii de lansare și o dată de revizie. Pentru a considera exercițiul reușit, poți arăta legătura dintre intrare, etapele parcurse și rezultat. Dacă lipsesc date, un răspuns prudent este mai util decât o completare inventată. Nu compara doar stilul: verifică și condițiile, sursele și operațiile efectuate.
Când merită și ce poate merge prost
O funcție de scheduling sau aprobare neconfirmată nu trebuie promisă vizitatorilor. Alege această abordare când îmbunătățește o nevoie măsurată. Păstrează o variantă simplă ca referință și compară rezultatele pe aceleași intrări. Un singur exemplu reușit nu stabilește fiabilitatea în toate situațiile.
Verifică ce ai înțeles
De ce este prea târziu să elimini sursa privată după răspuns?
Pentru că datele au intrat deja în contextul modelului și pot fi divulgate.
Un timeout dovedește că operația nu s-a executat?
Nu. Verifică starea înainte de reluarea unei acțiuni cu efecte.
Ce rezultat trebuie să obții în acest exercițiu?
Livrabilul include integrare, teste permise/refuzate, criterii de lansare și o dată de revizie.
Cuvinte de ținut minte
- Autorizare / Authorization: Verificarea dreptului la o operație sau resursă.
- Idempotency: Repetarea controlată fără duplicarea efectului.
- Latență / Latency: Timpul până la rezultatul util.
Surse și următorul pas
Pentru pregătire: A03 — Agentul cu acces la cunoștințe · R03 — Naive RAG: punctul de plecare · D04 — Întrebări bune pentru a testa RAG · U02 — Playground ca laborator · U05 — Widgetul AI pe website · E05 — Tokeni, credite, bugete și cost total · S01 — Prompt injection și date neîncrezătoare · S02 — Permisiuni și protejarea datelor