Alucinação de IA
Também conhecido como: confabulação, inventar coisas, fabricação
O que significa, em palavras simples
Uma alucinação de IA é uma resposta que soa certa, mas está errada ou foi inventada. A ferramenta não está a mentir para você. Ela constrói um texto que segue o padrão de uma boa resposta, e às vezes não há nada verdadeiro por trás desse padrão. O tom continua fluido e seguro de qualquer forma, e por isso os erros passam despercebidos com facilidade.
Como aparece no dia a dia
Eis três exemplos que um professor pode encontrar.
- Um questionário sobre um poema cita um verso que o poeta nunca escreveu.
- Um recurso de história apresenta uma data, um nome ou uma fonte que não existe, ou mistura dois acontecimentos.
- Um exemplo de matemática resolvido apresenta passos bem organizados e depois chega à resposta errada.
O mesmo pode acontecer quando uma ferramenta comenta o trabalho dos alunos. Ela pode elogiar um ponto que não está no texto ou deixar passar um erro que está. Veja usar IA para correção e continuar a fazer cada marcação você mesmo.
O que tende a ajudar
Não é possível desligar as alucinações, por isso crie um hábito para lidar com elas.
- Trate cada resultado como um rascunho. Você verifica antes que chegue aos alunos.
- Confira nomes, datas, citações, números e respostas numa fonte em que confia, como o seu manual ou o material do exame.
- Dê à ferramenta o material com que trabalhar. Cole o texto e peça que use apenas ele. O guia sobre prompts de planeamento de aulas que geram um primeiro rascunho utilizável mostra como.
- Peça partes menores. Dez perguntas de questionário são mais rápidas de verificar do que uma unidade inteira.
- Mantenha os nomes e os dados pessoais dos alunos fora de qualquer ferramenta de IA, a menos que a escola a tenha aprovado. Siga a política de IA e de dados da sua escola.
Uma ferramenta baseada num conjunto fixo de conteúdo curricular pode dar menos coisas para corrigir. Você continua a ler tudo.
De onde vem o termo
A palavra vem emprestada da experiência humana de ver ou ouvir coisas que não estão lá. As pessoas que trabalham com IA começaram a usá-la para respostas falsas dadas com confiança. Algumas não gostam dela, porque uma ferramenta não percebe nada, e preferem expressões mais simples como “inventar coisas”. Você vai ver todas elas.