Cuando la escuela se vuelve algorítmica, no todos entran por la misma puerta
Un sistema de IA en educación superior mostró sesgos en casi todas sus configuraciones, sobre todo por nivel socioeconómico. ¿Para quién funciona, exactamente?
Un sistema de IA aplicado a la educación superior detectó sesgos sistemáticos en prácticamente todas sus configuraciones, y los atributos que más frecuentemente provocaban decisiones discriminatorias eran el nivel socioeconómico y el nivel educativo de las familias. Esto no ocurrió en un entorno descuidado ni con herramientas obsoletas: ocurrió incluso después de aplicar técnicas de mitigación de sesgos, incluso bajo los umbrales de política más permisivos [4]. Si eso pasa en contextos con recursos y con equipos técnicos dedicados a corregirlo, conviene que nos hagamos una pregunta seria antes de seguir colocando IA en las aulas: ¿para quién funciona esto, exactamente?
El discurso dominante sobre IA educativa tiene un problema de honestidad. Promete democratización, acceso universal, personalización para cada estudiante. Lo que la evidencia muestra es otra cosa: que la tecnología amplifica lo que ya existe. Y lo que ya existe es desigualdad.
El estatus socioeconómico no desaparece cuando abres el portátil
Hay una idea muy extendida en los pasillos de las administraciones educativas: que la IA nivela el campo de juego porque da a cada estudiante una herramienta adaptada a su ritmo. El problema es que esa idea ignora todo lo que pasa antes de abrir la herramienta.
La investigación sobre brechas digitales y estatus socioeconómico (SES) muestra que las diferencias en el uso de IA entre estudiantes responden precisamente a las desigualdades de origen. El alumnado de familias con más recursos llega con mayor competencia digital autónoma, con más capacidad para sacar partido real de estas herramientas, con más margen para el error y el aprendizaje. Las familias con menos recursos generan trayectorias educativas donde la tecnología, cuando llega, llega tarde, mal equipada y sin acompañamiento [1]. Con el acceso al dispositivo, la brecha simplemente se desplaza hacia la competencia de uso y la autonomía digital.
Esto es lo que algunos investigadores llaman la diferencia entre acceso de primer nivel y de segundo nivel. El primero es tener el dispositivo. El segundo es saber qué hacer con él, con qué profundidad, con qué criterio. Y ahí es donde el SES sigue pesando con toda su fuerza [1].
Quién queda fuera cuando el aula se vuelve algorítmica
La literatura sobre inclusión en educación con IA es reveladora, sobre todo por lo que reconoce que falta. Las poblaciones en situación de desventaja son especialmente vulnerables a quedarse al margen de los beneficios del aprendizaje integrado con IA. Y lo más significativo: hay un déficit notable de investigación que examine explícitamente los problemas de inclusión y diversidad en las iniciativas de IA educativa [2]. Es decir, se están desplegando herramientas a gran escala sin que hayamos investigado suficientemente a quién dejan fuera.
Esto conecta directamente con los patrones de exclusión que la investigación ha documentado en tecnología educativa más amplia. En los programas de formación profesional en Estados Unidos, el alumnado con discapacidad con frecuencia era orientado hacia las opciones menos exigentes, o directamente alejado de ciertas especialidades por docentes y orientadores que desconocían la legislación de inclusión. Las chicas encontraban barreras sistemáticas en itinerarios tecnológicos, desde estereotipos de género hasta acoso no atajado. El alumnado de bajos ingresos quedaba excluido por razones tan concretas como el coste de los exámenes de certificación [3]. Si ya existían esas fricciones antes de la IA, ¿qué ocurre cuando el sistema que organiza oportunidades educativas empieza a ser algorítmico?
Ocurre lo que documenta el análisis de marcos de gobernanza para IA en educación superior: que los sesgos por nivel socioeconómico y nivel educativo familiar aparecen como las violaciones de equidad más frecuentes, y que técnicas diseñadas para corregirlos generan a su vez nuevos problemas de rendimiento. En algunas configuraciones, la mitigación del sesgo provocaba que un 37,5% de los modelos fallara en criterios de calibración, y un 25% en criterios básicos de precisión [4]. Corregir la discriminación sin romper el sistema resulta, hoy por hoy, un problema abierto.
El derecho a la educación no se cumple con tener WiFi
Desde una perspectiva de derechos humanos, el derecho a la educación incluye la cláusula de no discriminación. Esto significa que el acceso a oportunidades educativas de calidad no puede depender del origen socioeconómico, del género, de la discapacidad ni de ningún otro factor estructural. Cuando un sistema algorítmico toma decisiones sobre itinerarios, recursos o evaluación, y lo hace reproduciendo las desigualdades de origen, esa cláusula se viola de forma sistemática y, a menudo, invisible.
Lo invisible es precisamente el problema. La discriminación algorítmica no tiene cara. Quien decide es un modelo entrenado con datos históricos que reflejan desigualdades históricas, y que las proyecta hacia el futuro con apariencia de objetividad; no hay un docente que tome la decisión sesgada de forma consciente, nadie a quien llamar a una reunión y pedir explicaciones. Eso es políticamente muy cómodo para los sistemas que lo despliegan y muy perjudicial para los estudiantes que quedan al margen.
El marco de gobernanza técnica propone mecanismos para detectar y corregir esto [4], y es una dirección necesaria. Pero la gobernanza técnica sola no basta si no hay voluntad política de asumir que hay grupos que sistemáticamente pierden cuando el sistema optimiza para la media.
Una pregunta para llevarse a clase, o a la reunión de departamento
La pregunta real que tenemos que hacernos como docentes va más allá de si vamos a usar IA en el aula: probablemente ya la estamos usando, o lo haremos. La pregunta es si sabemos a quién estamos dejando fuera cuando lo hacemos, y si eso nos genera alguna obligación.
Diseñar materiales que consideren la diversidad socioeconómica, cultural y funcional del grupo es una respuesta pedagógica concreta [2]. Entender el uso de la IA desde criterios de justicia digital, no de eficiencia técnica, es otra. Pero antes que cualquier estrategia, hace falta nombrarlo: la IA educativa, tal como llega a nuestras aulas hoy, tiene un problema de equidad que sus promotores comerciales no van a resolver solos.
¿Cómo cambia tu práctica docente cuando asumes que la herramienta que tienes delante puede estar reproduciendo las desigualdades que llevas años intentando compensar?
Referencias
[1] Wang et al. (2026). Decoding divides: The role of socioeconomic status and personality traits in AI divides and educational inequality. Ver estudio →
[2] Lee et al. (2025). Promoting inclusive AI and technology in K-12 education: A review of context, instructional strategies, and learning outcomes. Ver estudio →
[3] Kim et al. (2021). Equity in Secondary Career and Technical Education in the United States: A Theoretical Framework and Systematic Literature Review. Ver estudio →
[4] Evangelista y Salman Bukhari (2026). From ethical principles to executable governance: A policy-as-code framework for trustworthy AI in higher education. Ver estudio →