Perché l’intelligenza artificiale può essere sicuramente sbagliata?

Una risposta ben scritta può nascondere un fatto sbagliato. La verifica inizia chiedendo quali prove supportano ciascuna affermazione.

Puoi seguire questo corso senza un account o una programmazione. Gli esempi utilizzano dati sintetici e i risultati dell’intelligenza artificiale devono essere verificati.

Come funziona, passo dopo passo

La fluidità e la verità vengono verificate separatamente

Un'allucinazione è un contenuto non supportato o errato presentato come risposta. Può derivare da informazioni mancanti, ambiguità o modelli combinati in modo errato. Richiedi prove e controlla il documento originale, la data, le unità e le condizioni. Una vera citazione potrebbe comunque non supportare l'affermazione. Utilizza fonti attuali per fatti attuali, una calcolatrice per l'aritmetica e "non puoi determinare" quando mancano le prove. Non trattare la fiducia espressa in prosa come una probabilità calibrata.

RAG accede alle prove, non riqualifica

RAG significa generazione aumentata dal recupero: il recupero fornisce passaggi rilevanti prima che il modello risponda. L'inserimento prepara i documenti, mentre l'esecuzione delle query ricerca nell'indice e crea il contesto. Un modello di incorporamento rappresenta il testo numericamente; il modello di risposta scrive la risposta. I modelli di riclassificazione, visione, grafico e router svolgono ruoli diversi quando necessario. RAG aiuta con informazioni private o mutevoli ma non garantisce la verità. Utilizzare un'API autorizzata per saldi, inventario esatto o autorizzazioni; un vecchio documento non è una fonte affidabile per lo stato attuale.

Definire il successo prima di ottimizzare

Preparare richieste rappresentative e risposte o proprietà previste. Includere casi ordinari, ambiguità, dati mancanti ed errori dello strumento. Per RAG, misurare il recupero delle prove separatamente dalla correttezza della risposta. Recall@k misura la quota di prove rilevanti trovate nei primi k risultati; Precision@k misura la quota di risultati restituiti che sono rilevanti. Per gli agenti, monitora anche azioni, autorizzazioni e arresti. Un LLM come giudice può accelerare la valutazione ma necessita di una calibrazione rispetto agli esseri umani. Non modificare prompt, modello e indice contemporaneamente se vuoi capire quali risultati migliorati.

Lo schema esplicativo

Seguire le frecce continue per il flusso principale. Le frecce blu tratteggiate forniscono dati o contesto; le frecce rosa tratteggiate mostrano feedback o risultati restituiti. Colori e forme distinguono modelli, negozi, decisioni e risultati. Su schermi piccoli, scorri in orizzontale per seguire l’intero schema.

Un esempio completo

La politica fittizia prevede 14 giorni per un prodotto non utilizzato. La risposta dice “30 giorni, nessuna condizione”. Controlla sia il numero che la condizione omessa rispetto a una fonte valida.

Provalo tu stesso

1. Etichetta ogni affermazione come supportata, contraddetta o non supportata.
2. Registrare l'input, la fonte e il risultato atteso prima di eseguire l'esperimento. Utilizzare solo i dati fittizi nell'esempio.
3. Seguire le fasi del diagramma. Ad ogni passaggio registrare quali informazioni vengono ricevute e prodotte; non confondere il risultato intermedio con il risultato finale.
4. Ripetere dopo aver rimosso le informazioni necessarie o reso ambiguo l'input. Controlla se il sistema chiarisce, ferma o inventa una risposta.
5. Confrontare con la soluzione spiegata. Conserva la configurazione, la data, il risultato e una spiegazione delle differenze. Cambia una cosa e riprova.

Una soluzione spiegata

Una risposta corretta preserva 14 giorni e la condizione di non utilizzo; altre situazioni necessitano di chiarimenti. Un esercizio riuscito ti consente di mostrare la connessione tra input, fasi e risultato. Quando mancano le informazioni, una risposta cauta è più utile dei dettagli inventati. Confrontare non solo stile: verificare anche condizioni, fonti e operazioni.

Quando è utile e quali sono i suoi limiti

RAG riduce il contesto mancante ma non elimina tutte le allucinazioni. Scegli questo approccio quando migliora un bisogno misurato. Mantieni una linea di base semplice e confronta i risultati utilizzando input identici. Un esempio di successo non stabilisce l’affidabilità in ogni situazione.

Verifica ciò che hai imparato

È sufficiente un collegamento in una risposta?

NO; deve supportare la richiesta specifica e adattarsi al tempo e alle circostanze.

RAG modifica i parametri LLM?

No. Fornisce il contesto della richiesta-ora; le modifiche ai parametri appartengono all'addestramento.

Quale risultato dovrebbe produrre questo esercizio?

Una risposta corretta preserva 14 giorni e la condizione di non utilizzo; altre situazioni necessitano di chiarimenti.

Termini da ricordare

• Messa a terra: Fondare una risposta su prove verificabili.
• Recupero: trovare informazioni rilevanti in fonti accessibili.
• Regresia/Regressione: una modifica che interrompe un caso precedentemente corretto.

Fonti e il prossimo passo

• Hugging Face — Corso LLM
• Lewis et al. — Generazione aumentata di recupero
• LangGraph — flussi di lavoro e agenti

Per preparare: F04 — Contesto e memoria: cosa vede l'IA?