Contesto e memoria: cosa vede l'IA?
Il contesto è il banco di lavoro del modello.
Cosa imparerai
- Spiega: il contesto è il banco di lavoro
- Applica l'idea in un esempio: Contesto e memoria: cosa vede l'intelligenza artificiale?
- Riconoscere i limiti e verificare il risultato dell'esercizio
Il contesto è il banco di lavoro del modello. La memoria è ciò che l'applicazione sceglie di conservare e riportare nell'ambiente di lavoro.
Puoi seguire questo corso senza un account o una programmazione. Gli esempi utilizzano dati sintetici e i risultati dell’intelligenza artificiale devono essere verificati.
Come funziona, passo dopo passo
Il contesto è il banco di lavoro
Il contesto include istruzioni, richiesta corrente, cronologia rilevante, documenti recuperati e risultati dello strumento. La finestra di contesto ha una capacità limitata; riservare spazio anche per la risposta. Una quantità maggiore di testo non migliora automaticamente la precisione. Informazioni irrilevanti e contraddizioni possono nascondere prove importanti. Riassumere attentamente la cronologia della conversazione e preservare l'origine dei fatti. Lo stato descrive l'esecuzione corrente, un checkpoint salva un punto ripristinabile e la memoria persistente conserva le informazioni tra le esecuzioni. Si tratta di diversi meccanismi gestiti dall'applicazione.
Un'istruzione è un contratto
Un buon prompt specifica l'attività, i dati disponibili, il formato di output e i criteri di successo. Separare il ruolo dai dati e includere un esempio per i casi ambigui. “Sii preciso” è più debole di “indicare solo la scadenza nella polizza fornita; se manca, chiedere chiarimenti”. Pochi scatti significa pochi esempi risolti, non un elenco infinito. Il contenuto del documento rimane dati anche quando contiene comandi. I delimitatori aiutano, ma il software deve applicare autorizzazioni e convalida anziché fare affidamento sul prompt.
La fluidità e la verità vengono verificate separatamente
Un'allucinazione è un contenuto non supportato o errato presentato come risposta. Può derivare da informazioni mancanti, ambiguità o modelli combinati in modo errato. Richiedi prove e controlla il documento originale, la data, le unità e le condizioni. Una vera citazione potrebbe comunque non supportare l'affermazione. Utilizza fonti attuali per fatti attuali, una calcolatrice per l'aritmetica e "non puoi determinare" quando mancano le prove. Non trattare la fiducia espressa in prosa come una probabilità calibrata.
Lo schema esplicativo
Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.
Un esempio completo
In una conversazione identifichi il prodotto LX-240. "Quale parte si adatta?" ha senso lì, ma a una nuova conversazione manca l'identificatore. La ripresa di un checkpoint è diversa dal recupero di una preferenza persistente.
Provalo tu stesso
- Confronta una domanda in due conversazioni e registra il contesto disponibile.
- Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
- Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
- Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
- Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.
Una soluzione spiegata
Nella nuova conversazione, chiedi il modello del prodotto. Non dare per scontato che l'applicazione mantenga le preferenze tra le conversazioni. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.
Quando è utile e quali sono i suoi limiti
Una lunga storia può contenere fatti scaduti. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.
Verifica ciò che hai imparato
Un checkpoint è una memoria utente permanente?
No. Il salvataggio di una corsa non implica il mantenimento delle preferenze tra le conversazioni.
Un prompt può sostituire il controllo degli accessi?
No. Un'istruzione non costituisce un limite di autorizzazione.
Quale risultato dovrebbe produrre questo esercizio?
Nella nuova conversazione, chiedi il modello del prodotto. Non dare per scontato che l'applicazione mantenga le preferenze tra le conversazioni.
Termini da ricordare
- Punto di controllo: stato salvato utilizzato per riprendere un'esecuzione.
- Pochi colpi: Esempi risolti forniti nel contesto.
- Messa a terra: Fondare una risposta su prove verificabili.
Fonti e il prossimo passo
Per preparare: F03 — Cos'è un LLM e come risponde?