Teacher Tools Rated
Menú
Ir al contenido
Glosario

Alucinación de la IA

También llamado: confabulación, inventar cosas, fabricación

Qué significa en palabras sencillas

Una alucinación de la IA es una respuesta que suena bien, pero que es errónea o inventada. La herramienta no te miente. Construye un texto que encaja con el patrón de una buena respuesta, y a veces no hay nada cierto detrás de ese patrón. El tono sigue siendo fluido y seguro en ambos casos, por eso los errores cuestan tanto de detectar.

Cómo se ve en el día a día

Estos son tres ejemplos con los que un profesor puede encontrarse.

  • Un cuestionario sobre un poema cita un verso que el poeta nunca escribió.
  • Un recurso de historia da una fecha, un nombre o una fuente que no existe, o mezcla dos acontecimientos.
  • Un ejemplo de matemáticas resuelto paso a paso, con pasos ordenados, llega a un resultado equivocado.

Lo mismo puede pasar cuando una herramienta comenta el trabajo de los alumnos. Puede elogiar un punto que no aparece en el texto, o pasar por alto un error que sí está. Consulta usa la IA para corregir y pon tú cada nota.

Qué suele ayudar

No se pueden desactivar las alucinaciones, así que crea un hábito en torno a ellas.

  1. Trata cada resultado como un borrador. Lo revisas antes de que llegue a los alumnos.
  2. Comprueba nombres, fechas, citas, cifras y respuestas con una fuente de confianza, como tu libro de texto o el material de tu organismo examinador.
  3. Dale a la herramienta el material con el que debe trabajar. Pega el texto y pídele que use solo eso. La guía sobre indicaciones para planificar clases que den un primer borrador útil explica cómo hacerlo.
  4. Pide piezas más pequeñas. Diez preguntas de cuestionario son más rápidas de revisar que una unidad completa.
  5. No introduzcas los nombres ni los datos personales de los alumnos en ninguna herramienta de IA, salvo que tu centro la haya aprobado. Sigue la política de IA y de datos de tu centro.

Una herramienta que se basa en un conjunto fijo de contenidos curriculares puede darte menos que corregir. Aun así, lo lees todo.

De dónde viene el término

La palabra se toma prestada de la experiencia humana de ver u oír cosas que no están. Quienes trabajan con IA empezaron a usarla para referirse a resultados falsos dados con total seguridad. A algunos no les gusta, porque una herramienta no percibe nada, y prefieren expresiones más sencillas como «inventar cosas». Las verás todas.