allucinazione dell'IA
Aussi appelé: confabulazione, inventare le cose, fabbricazione
Cosa significa in parole semplici
Un’allucinazione dell’IA è una risposta che suona giusta ma è sbagliata o inventata. Lo strumento non ti sta mentendo. Costruisce un testo che somiglia allo schema di una buona risposta, e a volte dietro quello schema non c’è nulla di vero. Il tono resta scorrevole e sicuro in entrambi i casi, ed è per questo che gli errori sono facili da non notare.
Come si presenta nella vita di tutti i giorni
Ecco tre esempi che un insegnante potrebbe incontrare.
- Un quiz su una poesia cita un verso che il poeta non ha mai scritto.
- Una risorsa di storia riporta una data, un nome o una fonte che non esistono, oppure confonde due eventi.
- Un esempio di matematica svolto mostra passaggi ordinati e poi arriva alla risposta sbagliata.
Lo stesso può succedere quando uno strumento commenta il lavoro degli alunni. Può lodare un punto che non compare nello scritto, o non vedere un errore che c’è. Vedi usare l’IA per la correzione e assegnare comunque ogni voto di persona.
Cosa tende ad aiutare
Le allucinazioni non si possono disattivare, quindi costruisci un’abitudine per gestirle.
- Considera ogni risultato una bozza. Lo controlli prima che arrivi agli alunni.
- Verifica nomi, date, citazioni, numeri e risposte con una fonte di cui ti fidi, come il tuo libro di testo o il materiale dell’ente certificatore d’esame.
- Fornisci allo strumento il materiale su cui lavorare. Incolla il testo e chiedigli di usare solo quello. La guida sui prompt per la pianificazione delle lezioni che producono una prima bozza utilizzabile mostra come fare.
- Chiedi pezzi più piccoli. Dieci domande di quiz sono più rapide da controllare di un’intera unità.
- Tieni i nomi e i dati personali degli alunni fuori da qualsiasi strumento di IA, a meno che la tua scuola non lo abbia approvato. Segui la politica della tua scuola su IA e dati.
Uno strumento basato su un corpus fisso di contenuti curricolari può lasciarti meno da correggere. Leggi comunque tutto.
Da dove viene il termine
La parola è presa in prestito dal senso umano di vedere o sentire cose che non ci sono. Chi lavora con l’IA ha iniziato a usarla per i risultati falsi ma dal tono sicuro. Alcuni non la apprezzano, perché uno strumento non percepisce nulla, e preferiscono espressioni più semplici come “inventare le cose”. Le incontrerai tutte.