Teacher Tools Rated
Menu
Aller au contenu
Glossario

allucinazione dell'IA

Aussi appelé: confabulazione, inventare le cose, fabbricazione

Cosa significa in parole semplici

Un’allucinazione dell’IA è una risposta che suona giusta ma è sbagliata o inventata. Lo strumento non ti sta mentendo. Costruisce un testo che somiglia allo schema di una buona risposta, e a volte dietro quello schema non c’è nulla di vero. Il tono resta scorrevole e sicuro in entrambi i casi, ed è per questo che gli errori sono facili da non notare.

Come si presenta nella vita di tutti i giorni

Ecco tre esempi che un insegnante potrebbe incontrare.

  • Un quiz su una poesia cita un verso che il poeta non ha mai scritto.
  • Una risorsa di storia riporta una data, un nome o una fonte che non esistono, oppure confonde due eventi.
  • Un esempio di matematica svolto mostra passaggi ordinati e poi arriva alla risposta sbagliata.

Lo stesso può succedere quando uno strumento commenta il lavoro degli alunni. Può lodare un punto che non compare nello scritto, o non vedere un errore che c’è. Vedi usare l’IA per la correzione e assegnare comunque ogni voto di persona.

Cosa tende ad aiutare

Le allucinazioni non si possono disattivare, quindi costruisci un’abitudine per gestirle.

  1. Considera ogni risultato una bozza. Lo controlli prima che arrivi agli alunni.
  2. Verifica nomi, date, citazioni, numeri e risposte con una fonte di cui ti fidi, come il tuo libro di testo o il materiale dell’ente certificatore d’esame.
  3. Fornisci allo strumento il materiale su cui lavorare. Incolla il testo e chiedigli di usare solo quello. La guida sui prompt per la pianificazione delle lezioni che producono una prima bozza utilizzabile mostra come fare.
  4. Chiedi pezzi più piccoli. Dieci domande di quiz sono più rapide da controllare di un’intera unità.
  5. Tieni i nomi e i dati personali degli alunni fuori da qualsiasi strumento di IA, a meno che la tua scuola non lo abbia approvato. Segui la politica della tua scuola su IA e dati.

Uno strumento basato su un corpus fisso di contenuti curricolari può lasciarti meno da correggere. Leggi comunque tutto.

Da dove viene il termine

La parola è presa in prestito dal senso umano di vedere o sentire cose che non ci sono. Chi lavora con l’IA ha iniziato a usarla per i risultati falsi ma dal tono sicuro. Alcuni non la apprezzano, perché uno strumento non percepisce nulla, e preferiscono espressioni più semplici come “inventare le cose”. Le incontrerai tutte.