Hallucination de l'IA
Aussi appelé: confabulation, invention pure et simple, fabrication
Ce que cela signifie concrètement
Une hallucination de l’IA est une réponse qui semble juste mais qui est fausse ou inventée. L’outil ne vous ment pas. Il construit un texte qui correspond au schéma d’une bonne réponse, et parfois rien de vrai ne se cache derrière ce schéma. Le ton reste fluide et assuré dans les deux cas, ce qui rend les erreurs faciles à manquer.
À quoi cela ressemble au quotidien
Voici trois exemples que peut rencontrer un enseignant.
- Un quiz sur un poème cite un vers que le poète n’a jamais écrit.
- Une ressource d’histoire donne une date, un nom ou une source qui n’existe pas, ou confond deux événements.
- Un exemple de mathématiques corrigé présente des étapes bien ordonnées, puis aboutit à un résultat faux.
Il peut en être de même lorsqu’un outil commente le travail des élèves. Il peut louer un point qui ne figure pas dans le texte, ou passer à côté d’une erreur qui s’y trouve. Voir utiliser l’IA pour la correction et garder la maîtrise de chaque annotation.
Ce qui aide en général
Vous ne pouvez pas désactiver les hallucinations, il faut donc prendre des habitudes pour les gérer.
- Considérez chaque résultat comme un brouillon. Vous le vérifiez avant qu’il n’arrive entre les mains des élèves.
- Vérifiez les noms, dates, citations, chiffres et réponses dans une source fiable, comme votre manuel ou les documents de l’organisme d’examen.
- Fournissez à l’outil le matériel sur lequel travailler. Collez le texte et demandez-lui de n’utiliser que celui-ci. Le guide sur les consignes de planification de cours qui donnent un premier brouillon exploitable montre comment faire.
- Demandez des éléments plus courts. Dix questions de quiz sont plus rapides à vérifier qu’une unité entière.
- Ne saisissez jamais les noms des élèves ni leurs données personnelles dans un outil d’IA, sauf si votre établissement l’a approuvé. Suivez la politique de votre établissement en matière d’IA et de données.
Un outil qui s’appuie sur un corpus fixe de contenus de programme vous laissera peut-être moins à corriger. Vous relisez quand même tout.
D’où vient le terme
Le mot est emprunté à la perception humaine de choses qui ne sont pas là, voir ou entendre ce qui n’existe pas. Les spécialistes de l’IA ont commencé à l’utiliser pour désigner les réponses fausses mais affirmées avec assurance. Certains n’aiment pas ce mot, car un outil ne perçoit rien, et préfèrent des expressions plus simples comme « inventer des choses ». Vous les rencontrerez toutes.