Guía

Inteligencia artificial en el aula: qué dice la investigación

Una entrada ordenada a lo que se sabe sobre la IA en educación hasta la fecha. Escrita para quien da clase. Cada apartado responde una pregunta y enlaza el artículo del blog en donde se desarrolla.

¿Qué cambia en una clase cuando el alumnado consulta a una IA?

Cambia precisamente el momento de duda. En el instante en que un estudiante se queda sin saber cómo continuar era un umbral productivo, que permitía profundizar en el aprendizaje a partir del problema en que se encontraba el alumnado. Hoy se salda en segundos con una consulta en el ordenador o el celular. En la literatura se llama descarga cognitiva a ese traslado del esfuerzo de pensar por uno mismo hacia una herramienta externa, y observa que cuando la respuesta llega rápidamente, con fluidez y apariencia de autoridad, el alumnado tiende a aceptarla sin interrogarla, y deja de desarrollar su propio razonamiento.

El efecto depende del diseño de la tarea. La misma herramienta que cierra la pregunta antes de tiempo puede sostener el razonamiento si sus respuestas se tratan como material provisional que hay que contrastar con otras fuentes. Ahí existe la diferencia entre apoyarse en la IA y aprender de o con ella.

Cuando ChatGPT responde antes de que el estudiante pueda preguntarse, sobre la duda como umbral de aprendizaje y el diseño pedagógico que la protege.

¿La IA educativa acorta las desigualdades del aula?

La evidencia disponible apunta en dirección contraria, es decir, muestra un augmento de las desigualdades. Un sistema de IA aplicado a la educación superior mostró sesgos sistemáticos en prácticamente todas sus configuraciones, y los atributos que con más frecuencia cambiaban la decisión eran precisamente los socioeconómicos. Cuando el acceso al dispositivo se generaliza, la desigualdad se desplaza hacia la competencia de uso, que es la brecha digital de segundo nivel: saber qué hacer con la herramienta, con qué profundidad y con qué criterio.

Corregir esos sesgos tiene su propio coste técnico. En el estudio analizado, aplicar técnicas de mitigación hizo que un 37,5% de los modelos fallara en criterios de calibración y un 25% en criterios básicos de precisión. La equidad medida en agregado también puede esconder a quién deja fuera el sistema dentro de cada subgrupo.

Cuando la escuela se vuelve algorítmica, no todos entran por la misma puerta, sobre el sesgo socioeconómico de la IA educativa y la brecha de segundo nivel.

¿Qué mide una plataforma de aprendizaje adaptativo?

Mide lo que puede registrar: clics, tiempos de respuesta, aciertos, errores y módulos completados. La discusión en voz alta con un compañero, la pregunta reformulada antes de responderla o la conexión de un concepto con algo vivido fuera del aula quedan fuera del modelo, y también son aprendizaje.

Esas métricas alimentan etiquetas con consecuencias. Un estudiante clasificado como «en riesgo» recibirá otros contenidos y a otro ritmo, y la señal que activó la etiqueta puede tener causas que el sistema desconoce, desde una conexión inestable hasta una jornada laboral. Quién define qué variables describen el aprendizaje suele resolverse fuera del aula y fuera del centro.

Cuando el algoritmo decide qué significa aprender, sobre lo que las plataformas adaptativas registran y lo que dejan fuera.

¿Puede un detector de IA servir de prueba para sancionar?

Como indicio para abrir una conversación, sí. Como prueba para sancionar, se queda corto. Un detector está construido sobre la misma tecnología que pretende fiscalizar y comparte su propensión al error, y ni el alumnado ni el profesorado suelen saber qué mide exactamente ni con qué umbral emite su veredicto. Un porcentaje sin explicación deja al estudiante en la posición de tener que demostrar su inocencia.

El daño tampoco se reparte por igual. Quien escribe en su segunda lengua, quien usa correctores gramaticales o quien trabaja con herramientas básicas produce textos que el detector marca con más facilidad, así que la herramienta acaba midiendo la brecha lingüística y socioeconómica. Antes de cualquier consecuencia académica hacen falta tres condiciones: transparencia sobre los indicadores, audiencia real para presentar evidencias y revisión humana obligatoria.

Acusado por un algoritmo: falsos positivos, due process y el precio invisible de equivocarse, sobre las garantías que el alumnado necesita frente a una sospecha automática.

¿Qué necesita el profesorado para decidir con criterio?

Los marcos de formación docente en IA parten casi siempre de un supuesto de déficit: se da por hecho que el problema está en que el profesorado sabe poco y hay que enseñarle a manejar la herramienta. Esa lectura deja fuera la capacidad de identificar cuándo una herramienta resulta problemática y de sostener esa valoración dentro del centro.

Hay una segunda pieza que los marcos revisados apenas tratan. Las herramientas de análisis automatizado del aula miden también a quien enseña y ponen esas métricas a disposición de terceros. Poder rechazar una herramienta por motivos pedagógicos, sin que eso pese en la evaluación profesional, forma parte de la autonomía docente en sentido pleno.

¿Capacitar o descualificar? El silencio incómodo en el debate sobre formación docente en IA, sobre qué queda fuera cuando se enseña a manejar la herramienta sin cuestionarla.

Cómo seguir

Los artículos de Mesa Docente se agrupan en seis líneas de trabajo: pensar con la IA, datos y privacidad, decisiones justas, cerrar brechas, criterio docente, y decidir y responder. Cada artículo parte de una pregunta incómoda, discute literatura académica con los DOI enlazados y termina apuntando una vía practicable en el aula.

Esta guía se actualiza a medida que se publican artículos nuevos. Quien quiera el detalle del método y de quién lo escribe, lo encontrará en Sobre este blog.

Preguntas frecuentes

¿Qué es la inteligencia artificial en educación?
Con ese nombre circulan cosas distintas. Están los asistentes generativos de propósito general, como ChatGPT, que el alumnado y el profesorado usan por su cuenta para escribir, resumir o preguntar. Están las plataformas de aprendizaje adaptativo, que ajustan qué contenido recibe cada estudiante según lo que registran de su actividad. Y están los sistemas de clasificación y detección que el centro aplica sobre las personas: detectores de escritura automática, alertas de abandono, analíticas de aula. Cada familia plantea problemas pedagógicos diferentes y conviene tratarlas por separado.
¿Cuáles son los principales riesgos de usar IA en el aula?
La investigación revisada por pares señala cuatro con insistencia. La descarga cognitiva, cuando la respuesta llega antes de que la pregunta madure. El sesgo de los sistemas que clasifican personas, que suele recaer sobre quien parte con menos recursos. La reducción del aprendizaje a lo que la plataforma sabe medir, que deja fuera la duda en voz alta o la pregunta reformulada. Y las decisiones automáticas sin explicación ni derecho a réplica, sobre todo cuando afectan a la calificación o al expediente de un estudiante.
¿Qué condiciones hacen que la IA ayude de verdad a aprender?
El factor con más respaldo en la literatura es el diseño de la actividad, por delante de la herramienta elegida. La misma herramienta que ahorra el esfuerzo de pensar puede sostener el razonamiento cuando su respuesta se trata como material provisional que hay que contrastar, reformular o refutar con otras fuentes, y cuando la decisión sobre qué vale sigue estando en manos de quien aprende.
¿Qué garantías necesita el alumnado cuando un sistema de IA decide sobre él?
Tres, como mínimo. Transparencia sobre qué indicadores activaron el sistema y con qué grado de certeza. Audiencia real, con ocasión de presentar evidencias antes de que se decida nada. Y revisión humana obligatoria, de manera que ninguna consecuencia académica se adopte con la salida de un sistema automático como única base.
¿Por dónde puede empezar un docente que quiere usar la IA con criterio?
Por una pregunta previa a la herramienta: qué operación mental quiere que el alumnado ejercite en esa tarea, y si la herramienta la sostiene o la sustituye. A partir de ahí, conviene saber qué datos del alumnado recoge el sistema, qué decide por su cuenta y qué margen queda para discrepar de su resultado.