IA que lee emociones en el aula: ¿evaluación pedagógica o vigilancia de menores?
¿Puede la IA que lee emociones en el aula respetar los derechos del niño? Analizamos la tensión entre evaluación pedagógica y vigilancia biométrica de menores.
En algunas escuelas de China se han instalado cámaras que registran el número de bostezos de cada estudiante y bandas EEG que miden la concentración y envían esos datos a los padres en tiempo real [1]. Es posible que al leer estas líneas pensemos que es un caso extremo y lejano; o bien, si llevas tiempo entre aulas, que te preguntes cuánto tiempo falta para que alguien te presente algo parecido envuelto en lenguaje pedagógico.
La tecnología ya está aquí, aunque la ética va por detrás
Los sistemas de detección de emociones en el aula no son ciencia ficción. La revisión de Fütterer et al. (2025) identifica estudios que usan expresiones faciales (22 % de los trabajos analizados), características acústicas (15 %), postura corporal (13 %), movimiento de cabeza (12 %) y seguimiento de la mirada (11 %) para inferir el estado emocional y el grado de implicación del alumnado. Algunos de estos sistemas funcionan en tiempo real, si bien todavía es limitado ya no es un impedimento técnico, pues casi un tercio de los estudios revisados presentan aplicaciones que analizan los datos en el momento en que se producen [1].
El problema es la brecha entre la capacidad técnica y la reflexión ética. Solo el 22 % de esos mismos estudios incluía consideraciones éticas, y apenas el 13 % implementaba medidas reales de protección de datos. Dicho de otra manera, ocho de cada diez investigaciones sobre IA en el aula venían de departamentos STEM sin ninguna participación de especialistas en educación [1]. Y mientras tanto, los modelos se entrenan, se publican y algunos llegan al mercado.
Los sistemas de monitorización de emociones mediante IoT y cámaras, como los que clasifican al estudiante en “implicado” o “desconectado” a partir del reconocimiento facial, han alcanzado precisiones reportadas de hasta el 92% en tareas de clasificación emocional [2]. Ese dato suena bien en un artículo técnico. En un aula de secundaria, con adolescentes de catorce años, significa que hay un algoritmo decidiendo cada pocos segundos si estás prestando atención o no, y que esa decisión puede derivar en una sanción inmediata o en un informe para las familias, sin tener en cuenta ningún contexto.
El marco de derechos en tensión directa con la lógica del rendimiento
Más allá de las propias fugas pedagógicas en un sistema como estos, a nivel de derechos se plantean importantes dudas que no deben pasarse por alto. La Convención sobre los Derechos del Niño reconoce el derecho a la privacidad (artículo 16) y el principio del interés superior del menor. El AI Act europeo clasifica los sistemas de IA que evalúan el rendimiento y predicen el éxito académico como de alto riesgo [1]. Eso tiene consecuencias jurídicas directas, pues su implementación exigiría transparencia, supervisión humana y evaluaciones de impacto antes del despliegue.
El problema es que la lógica del sistema de reconocimiento emocional tira en dirección contraria. Estos sistemas construyen lo que la literatura llama data doubles o datashadows: perfiles automatizados que representan al estudiante no como persona sino como patrón de datos [3]. Cuando esa información sale del aula —hacia la dirección, hacia las familias, hacia plataformas externas—, la intrusión deja de ser hipotética. La vigilancia continua genera lo que el Consejo de Ética Alemán describe como una presión constante que afecta la autonomía y la privacidad de quien aprende. Y, por si hasta este punto no se te había acudido, aquí hay un nuevo efecto, el impacto puede llegar también al profesorado, quien empieza a sentir que su práctica está igualmente monitorizada y juzgada por el sistema [1]. ¿O cuándo aparecerá la monitorización dirigida directamente al profesorado como “complemento ético” a la monitorización del alumnado?
La cuestión del consentimiento es especialmente delicada con menores. La literatura señala que los marcos existentes para el consentimiento informado son mucho más complejos cuando involucran a niños y niñas, porque la negociación entre familias, centros y regulación legal es cualitativamente diferente a la que se da en educación universitaria [3]. Las familias pueden firmar una autorización sin entender qué datos se recogen, durante cuánto tiempo se almacenan, quién tiene acceso a ellos o qué uso se les puede llegar a dar. Y el propio alumnado, en muchos casos, carece de voz en ese proceso.
Qué haría que un sistema de este tipo fuera mínimamente admisible
Decir que toda IA de detección emocional en el aula viola derechos sería impreciso. Lo que hay que exigir en caso de querer implementarlo, es que el uso cumpla un mínimo de condiciones que, hoy por hoy, la mayoría de sistemas no cumple.
La primera condición es la finalidad limitada y declarada: el sistema tiene que tener un propósito concreto y acotado —por ejemplo, ayudar al docente a percibir si el grupo ha perdido el hilo en un momento específico de la clase— y ese propósito tiene que estar fijado antes del despliegue, no redefinirse sobre la marcha. La segunda es que los datos no salgan del centro: la información recogida en el aula tiene que quedarse en el aula, sin transferencias a plataformas externas ni comunicaciones automáticas a familias o administración [1]. La tercera es el consentimiento real de las familias, lo que implica información comprensible, posibilidad de negarse sin consecuencias para el estudiante, y revisión periódica de ese consentimiento [3]. La cuarta es la revisión humana: ninguna decisión que afecte al estudiante —una sanción, una derivación, una nota en su expediente— puede basarse únicamente en la lectura automática de su estado emocional. El profesorado tiene que poder leer, cuestionar y desestimar lo que el sistema propone [4].
Asimismo, hay usos que quedan fuera de cualquier condición razonable. El envío de datos biométricos de menores a las familias en tiempo real, así como cualquier sistema que use la detección emocional para sancionar o clasificar de forma automática, son prácticas que el marco de derechos de la infancia no puede absorber, por mucho que la precisión técnica del algoritmo siga evolucionando [1].
Lo que podemos hacer desde dentro del aula
La pregunta que queda abierta es si el profesorado puede ser algo más que receptor de estas tecnologías. La investigación sobre conciencia ética docente apunta a que el profesorado que ha desarrollado una reflexión crítica sobre el uso de herramientas de IA detecta antes las amenazas a la autonomía del alumnado y actúa en consecuencia [5]. Eso, tengámoslo claro, requiere formación específica y espacios de deliberación en los centros, no solo cursos de herramientas digitales.
Una vía posible es trabajar con el propio alumnado la lectura crítica de estos sistemas: qué datos recogen, quién los posee, qué decisiones generan. Si las familias y el profesorado entienden qué hay detrás de una cámara “inteligente” en el aula, están en mejor posición para pedir soluciones responsables y para rechazar las que no lo son [1]. La pedagogía crítica de la IA en secundaria entonces, se presenta entonces como parte necesaria de lo que significa educar para la ciudadanía en un entorno donde los datos sobre el estado emocional de un menor de edad pueden convertirse en un expediente permanente antes de que ese menor haya aprendido a leer las condiciones de uso que lo permiten.
Referencias
[1] Fütterer et al. (2025). Artificial intelligence in classroom management: A systematic review on educational purposes, technical implementations, and ethical considerations. Ver estudio →
[2] Almasre et al. (2025). Real-Time Student Engagement Monitoring in Smart Classrooms Using IoT Sensors and Bi-LSTM with Self-Attention. Ver estudio →
[3] Hakimi et al. (2021). The Ethics of Using Digital Trace Data in Education: A Thematic Review of the Research Landscape. Ver estudio →
[4] Melo et al. (2026). Validating AI-generated classroom observations: Reliability, accuracy, and limits of LLM-based pedagogical judgment. Ver estudio →
[5] Ho y Lee (2025). From intuition to action: Exploring teachers’ ethical awareness in the use of AI tools in education. Ver estudio →