Teacher Tools Rated
Menu
Ir para o conteúdo
Glossário

Alucinação de IA

Também conhecido como: confabulação, inventar coisas, fabricação

O que significa, em palavras simples

Uma alucinação de IA é uma resposta que soa certa, mas está errada ou foi inventada. A ferramenta não está a mentir para você. Ela constrói um texto que segue o padrão de uma boa resposta, e às vezes não há nada verdadeiro por trás desse padrão. O tom continua fluido e seguro de qualquer forma, e por isso os erros passam despercebidos com facilidade.

Como aparece no dia a dia

Eis três exemplos que um professor pode encontrar.

  • Um questionário sobre um poema cita um verso que o poeta nunca escreveu.
  • Um recurso de história apresenta uma data, um nome ou uma fonte que não existe, ou mistura dois acontecimentos.
  • Um exemplo de matemática resolvido apresenta passos bem organizados e depois chega à resposta errada.

O mesmo pode acontecer quando uma ferramenta comenta o trabalho dos alunos. Ela pode elogiar um ponto que não está no texto ou deixar passar um erro que está. Veja usar IA para correção e continuar a fazer cada marcação você mesmo.

O que tende a ajudar

Não é possível desligar as alucinações, por isso crie um hábito para lidar com elas.

  1. Trate cada resultado como um rascunho. Você verifica antes que chegue aos alunos.
  2. Confira nomes, datas, citações, números e respostas numa fonte em que confia, como o seu manual ou o material do exame.
  3. Dê à ferramenta o material com que trabalhar. Cole o texto e peça que use apenas ele. O guia sobre prompts de planeamento de aulas que geram um primeiro rascunho utilizável mostra como.
  4. Peça partes menores. Dez perguntas de questionário são mais rápidas de verificar do que uma unidade inteira.
  5. Mantenha os nomes e os dados pessoais dos alunos fora de qualquer ferramenta de IA, a menos que a escola a tenha aprovado. Siga a política de IA e de dados da sua escola.

Uma ferramenta baseada num conjunto fixo de conteúdo curricular pode dar menos coisas para corrigir. Você continua a ler tudo.

De onde vem o termo

A palavra vem emprestada da experiência humana de ver ou ouvir coisas que não estão lá. As pessoas que trabalham com IA começaram a usá-la para respostas falsas dadas com confiança. Algumas não gostam dela, porque uma ferramenta não percebe nada, e preferem expressões mais simples como “inventar coisas”. Você vai ver todas elas.