Conclusiones clave
- Una serie de nuevas aplicaciones pueden detectar las emociones de los estudiantes.
- Intel y Class, el fabricante de software para el aula, según se informa, están desarrollando un software que vigilará los rostros y el lenguaje corporal de los estudiantes digitales.
- A algunos expertos les preocupa que el uso de IA para monitorear a los estudiantes pueda conducir a invasiones de la privacidad.
Las escuelas pronto podrían usar inteligencia artificial (IA) para monitorear los estados emocionales de los estudiantes.
Intel y el fabricante de software para el aula Class están desarrollando un software que vigilará los rostros y el lenguaje corporal de los estudiantes digitales. Según se informa, el sistema puede detectar si los estudiantes están aburridos, distraídos o confundidos, pero a algunos expertos les preocupa que el software pueda conducir a invasiones de la privacidad.
"Tales productos de monitoreo basados en IA deben ser transparentes sobre cómo se utilizan estos datos", Michael Huth, cofundador de la empresa Xayn y jefe del departamento de computación del Imperial College London, le dijo a Lifewire en un correo electrónico. entrevista. "Si se usa para rastrear la participación en una cohorte de estudiantes, donde la participación a nivel individual no se registra, esto es algo menos problemático desde una perspectiva de privacidad. Sin embargo, si alguno de estos datos se usara para influir en la evaluación de los estudiantes, yo puedo ver todo tipo de problemas que surgen".
Cuidando a los estudiantes
Class e Intel se han asociado para integrar una tecnología basada en inteligencia artificial que se ejecuta junto con el software de videoconferencia Zoom, informó Protocol. El software se puede usar para monitorear a los estudiantes, según el informe.
"A través de nuestra asociación con Intel, podremos traer características nuevas e inmersivas al software de Class que están impulsadas por funcionalidades respaldadas por investigaciones", según el sitio web de la compañía. "También trabajaremos junto con Intel para aprovechar los recursos y proporcionar a los educadores y estudiantes información valiosa, estudios de casos conjuntos, documentos técnicos, seminarios web y mucho más".
Intel le dijo a Protocol que el software para el aula se encuentra en las primeras etapas y que no hay planes para enviar el producto al mercado.
La asociación con Class no es la única colaboración potencial entre el software de lectura de emociones de Intel y otros fabricantes. Un folleto en línea de Intel promociona una nueva pizarra electrónica llamada Viewboard dirigida a las escuelas. El software de Intel "hace posible que myViewboard evalúe y muestre los estados emocionales de los alumnos como retroalimentación inmediata para los educadores", según el folleto.
Class es uno de los muchos productos de software que pretenden rastrear las emociones de los estudiantes usando IA. También está 4Little Trees, una plataforma de aprendizaje de detección de emociones que es "un asistente de enseñanza virtual [que] lo ayudaría a elegir las preguntas más adecuadas para usted o lo desafiaría cuando sea necesario", según el sitio web de la compañía.
Ashish Fernando, director ejecutivo de la empresa de inteligencia artificial iSchoolConnect, le dijo a Lifewire en una entrevista por correo electrónico que la inteligencia artificial se puede entrenar para evaluar el comportamiento y las características humanas sin el impacto de los sesgos subjetivos que tienen las personas.
"La IA puede evaluar una cantidad significativamente mayor de comportamientos humanos, incluidas microexpresiones fáciles de perder, a un ritmo mucho más rápido que un ser humano", dijo Fernando. "Donde la retroalimentación podría haber tomado horas, AI ahora puede proporcionar lo mismo en unos minutos".
Preocupaciones de privacidad
El uso de IA para monitorear humanos está creciendo. Snapchat tiene tecnología de inteligencia artificial que evalúa el nivel emocional de un grupo de personas en un evento en vivo. Mad Street Den utiliza IA de visión por computadora para ayudar a los minoristas a reconocer las expresiones faciales y las emociones de los compradores potenciales. BrainQ aprovecha la IA para comprender cómo interactúan los pasajeros con los vehículos autónomos que utilizan. Y las empresas están utilizando IA para rastrear la fatiga del conductor.
"Este es un gran caso de uso para la seguridad vial, pero plantea preguntas sobre los derechos de privacidad de los conductores en sus vehículos personales", dijo Huth. "¿Se compartirá la información sobre la fatiga con la compañía de seguros o el fabricante del automóvil? ¿O simplemente se advertirá al conductor que se detenga y descanse? Este es un problema menor para las flotas de automóviles comerciales, como camiones, furgonetas de reparto o taxis".
Un problema es que la información de la IA, como el movimiento muscular para inferir el estado emocional, podría no ser confiable, dijo Huth. "Esto crea un dilema, ya que una IA más confiable puede requerir el acceso a datos aún más confidenciales, como las señales de EEG", agregó.
Para los estudiantes, la IA puede ser útil para monitorear el cumplimiento durante los exámenes en línea cuando un supervisor no puede estar físicamente presente. Pero este uso de la IA para esto es polémico, dijo Huth, porque el sistema trata de determinar si un estudiante tiene la intención de hacer trampa o hace trampa, y existe un potencial real de falsos positivos que resultan en la penalización injustificada de los estudiantes que no han hecho nada malo..
"Cualquier IA que se use para este propósito necesitaría ser lo suficientemente robusta para lidiar con las pausas para ir al baño, los tics nerviosos de los estudiantes individuales (como movimientos erráticos de los ojos), y así sucesivamente", dijo Huth.
