Estudiantes y vigilancia algorítmica

IMAGE: Class.com

Intel, en colaboración con Class, presenta una herramienta de edtech sobre Zoom que incluye un algoritmo para monitorizar la atención de los estudiantes durante las clases online, un tipo de herramienta que no es especialmente novedosa y cuyo uso ya evaluamos hace bastante tiempo en IE University, pero que genera indudable polémica por muchas razones.

Cuando la ensayamos en su momento, bastante antes de la pandemia y aprovechando la oportunidad que la WoW Room nos daba para ello, se determinó que el mejor uso para una herramienta de este tipo sería no utilizarla como forma de controlar a los alumnos, sino como una forma de feedback inmediato para el profesor, que podría, por ejemplo, incorporar nuevos elementos o cambios de enfoque a su comunicación si detectaba una caída generalizada de la atención durante una sesión. En el fondo, es algo que los profesores – al menos, aquellos que nos preocupamos por la calidad de nuestras clases – hemos hecho siempre: controlar las expresiones de nuestros estudiantes para entender desde si están entendiendo algo, hasta si la sesión está resultando demasiado monótona, pesada, etc.

Sin embargo, surge una cuestión interesante: como profesor, la actitud de tus alumnos obviamente te influye a la hora de calificarlos, especialmente en aquellas asignaturas en las que una parte de la evaluación depende de factores como la participación en clase (en escuelas de negocios y enseñanza superior en general, prácticamente siempre, dado que la participación se considera una parte fundamental del proceso en oposición a enfoques como el «dar apuntes», que prácticamente no se utilizan en ese contexto), lo que conlleva que una persona que muestra en clase una actitud completamente pasiva, aburrida o ausente tienda a tener una mala calificación en ese aspecto. Pero obviamente, hablamos de entornos en los que el ratio de profesor/alumnos permite no solo que evalúes esos aspectos de manera razonablemente fiel y con muy pocas confusiones, sino que incluso llegues en muchos sentidos a conocer a tus alumnos: ¿qué pasa si intentas escalar esa metodología a ratios menos beneficiosos o más masivos? Obviamente, llevarlo a cabo simplemente confiando en la memoria del profesor resultaría imposible.

¿Qué ocurre cuando ponemos a un algoritmo a evaluar ese tipo de aspectos conductuales? En primer lugar, que pasas de tener tu observación como profesor, a tener un listado de estudiantes con sus porcentajes de atención durante cada sesión. Dejando aparte la evidente posibilidad de que el algoritmo lea mal algunas expresiones, cuestión que podría pensarse que se corrige a medida que contamos con más datos para entrenarlo, la idea de relajar la función del profesor en algo tan personal como evaluar la atención de sus estudiantes puede plantear de por sí algunos problemas, además de hacer sentir a los propios estudiantes como si estuvieran bajo constante vigilancia en algún tipo de panóptico, algo que parece, desde el punto de vista de experiencia de aprendizaje, de lo menos adecuado.

En la práctica, aparte de las enormes diferencias existentes en función del nivel de enseñanza, del ratio profesor/alumnos, del entorno cultural o de otros muchos factores, creo que lo fundamental es ofrecer al alumno una experiencia lo más parecida posible a la que tendrá cuando termine sus estudios, se gradúe y pretenda poner en práctica lo aprendido. Desde mi experiencia como profesor en una escuela de negocios, siempre he intentado proponer a mis estudiantes una experiencia de aprendizaje lo más cercana posible a la realidad empresarial, y siempre me he planteado, a la hora de evaluarlos, cómo lo haría si en lugar de ser su profesor, fuera su jefe directo en el contexto de una compañía.

En ese sentido, ¿cabe esperar que las compañías, en un futuro más o menos cercano, adopten este tipo de herramientas de monitorización de emociones para evaluar a sus trabajadores? La idea, por mucho que hablemos de la cada vez mayor prevalencia de entornos de trabajo distribuidos, me parece bastante distópica y (quiero pensar que) poco probable. De hecho, las herramientas de micromanagement que algunas compañías utilizan para saber si sus empleados están delante de su ordenador trabajando o no me parecen cualquier cosa menos positivas en el contexto de una cultura empresarial.

Por tanto, introducir un algoritmo que coloca a los alumnos en una situación que nada tiene que ver con la realidad que van a encontrarse después es algo que posiblemente les llevaría a efectos secundarios que me parecen muy desaconsejables, como tratar de fingir determinadas expresiones, hacer parecer que están muy interesados aunque de hecho no lo estén, o simular un estado de concentración que es de todo menos genuino. Si no me parece adecuado el micromanagement en las compañías, ¿por qué me lo iba a parecer en un contexto educativo?

¿Podemos monitorizar el nivel de atención de los alumnos mediante un algoritmo? Muy posiblemente sí, y además, es probable que el algoritmo termine por hacerlo razonablemente bien. ¿Debemos hacerlo? Francamente, no lo tengo tan claro.


This article is also available in English on my Medium page, «If you were studying online, would you like an algorithm to monitor whether you were paying attention?«

10 comentarios

  • #001
    menestro - 18 abril 2022 - 16:16

    Ese tipo de técnicas están siendo prohibidas en todo EE.UU. al mismo ritmo que avanza la prohibición de uso del reconocimiento facial en los demás estados.

    De su eficacia, solo podemos dudar, ya que el desempeño escolar y la atención no van de la mano.

    (De ello hablan mis sobresalientes sin asistir a clase, aunque me arrojasen el examen a la cara.)

    No voy a comentar mucho, porque sinceramente, a estas alturas todo el mundo conoce el fracaso de las teorías de Bentham y el Panóptico y los efectos de la sobrevigilancia en el desempeño laboral.

    (Sí, Jeremy Bentham pidió que le disecarán y le exhibieran, como una pelicula de Hitchcock.)

    Si este tipo de tecnología está vetada en las empresas y puestos de trabajo;

    ¿Cómo es posible que se utilice en las escuelas, como laboratorio social, sin el consentimiento de padres o alumnos?

    Si a eso le añadimos la epidemia de anfetaminas y ansiolíticos en niños, el daño a su salud y bienestar psicológico es patente y así se refleja en su desempeño posterior.

    Por añadido, construye auténticas barreras de confianza entre la institución y alumno, lo que desde luego es contraproducente en cualquier relación de formación y aprendizaje y el desarrollo de autonomía en el mismo.

    la sobrevigilancia en la escuela es un uso disfuncional de la tecnología.

    Si no vas a disfrutar de un examen, no lo hagas. Como Yoda.

    New York Banned Facial Recognition in Schools. Will Other States Follow?

    Schools Are Pushing the Boundaries of Surveillance Technologies

    Study Recommends Total Ban on Facial Recognition in Schools

    Responder
    • menestro - 18 abril 2022 - 20:41

      Creo que merece la pena hacer otro pequeño raspón al asunto, en relación con la utilidad para el profesorado o la docencia de monitorizar las expresiones faciales de los alumnos.

      En general, los profesores no son psicólogos, aunque lo pretendan, y de poco les va a servir «cuantificar emociones» o si el alumno mira en una dirección o les presta atención.
      Es un buen exponente de «Vanity metrics».

      Hay un punto narcisista y controlador, como he bosquejado en el Bemthan disecado e imperenne ante la audiencia de un museo, en contemplar las respuestas emocionales, sin participar de ellas o entenderlas.

      La empatia no se puede separar de una interpretación elaborada del conocimiento. Somos más eficaces en ese aspecto que como seres racionales.

      En cuanto a sí las personas interpretan emociones o las utilizan ante otros, lo vemos todos los días y es un elemento habitual de la comunicación, lo que hace tan sencillo engañar a una máquina como a una persona.

      Hay cosas mejores que mirar emociones en una gráfica o reflejarlas, igual que es muy diferente comparar una señal de tráfico y un Monet.

      La señal nos informa, el Monet… Es una experiencia en sí mismo, cargado de sentido y significado.
      _

      Hacen falta más Monets.

      Responder
  • #003
    Benji - 18 abril 2022 - 16:25

    Cuando estoy con mi esposa en Zoom los dos, o en Teams y uso el «desenfoque» como fondo, al final la descarta a ella por ser morena y se queda conmigo por ser blanco.

    Es un sesgo interesante del que nos hemos reído toda la familia: Cuanto más moreno, menos te enfocan los algoritmos. Genial para quedadas familiares.

    De ahí mi pregunta: ¿Evalúa igual a alguien con ojos más pequeños (donde incluso los humanos no detectamos donde están fijados los ojos) o más claros o más grandes? ¿Discrimina por color? ¿Por quien lleva gafas y quien no?

    Lo digo porque siempre me ha parecido interesante los algoritmos vs. realidad (o «trampas»).

    @Enrique: ¿Has tenido a algún alumno que directamente ponga un «loop» donde presta atención? Quiero decir, es hacerse trampas al solitario en vuestra institución, pero por curiosidad :-)

    Responder
  • #004
    Gorki - 18 abril 2022 - 20:44

    La experiencia que tengo como profesor, es corta, de muy joven profesor particular para niños de bachillerato vagos, (que son los que precisan profesor particular), una corta experiencia de profesor privado de Matemáticas de 1º de Económicas para los que venían de Bachillerato de Letras y no sabían lo que era una derivada, y profesor de cursillos a mis compañeros de trabajo, sobre algunos lenguajes de programación, o de Análisis Funcional.

    Con esta cortísima experiencia, me baso para indicar, que el éxito de un profesor, se basa en el grado de interés del estudiante por la asignatura, Si el estudiante «desea saber», es muy fácil enseñarle una materia que tu conoces a fondo, si el alumno no está interesado en la asignatura, de nada vale que te escuernes, porque tu ciencia no va a entrar en esa mente.

    Por tanto, el primer trabajo del profesor es despertar en sus alumnos su afán por conocer esa materia, el deseo de saber, independientemente que se lo reconozcan o no en un título, o si le es útil o no para su curriculum, si fallas en ello y solo quieren aprobar, mal lo llevas.

    Para ello una máquina que te avise del generalizado desinterés del alumnado, te puede servir de ayuda para reorientar la forma de presentar la materia.

    En cuanto a las notas, opino igual que el Doctor Marañón, que aprobaba a todos, porque decía, «Ya los suspenderá la vida».

    Responder
  • #005
    Javier - 18 abril 2022 - 22:01

    Con muchísimos reparos, estaría de acuerdo en implementar ese tipo de tecnologías (acuerdo previo, adultos consintiendo la experiencia, interesados en aprender, y no en ser conejillos de indias, etc.…) pero no para el «minuto a minuto», sino como herramienta de aprendizaje, únicamente posterior, de la persona que enseña. Del tipo:

    – Minuto 3:30 alumnos mostraron aburrimiento
    – Minuto 8:23 alumnos mostraron interés
    – etc…

    No estoy de acuerdo en lo de feedback inmediato para el profesor. Feedback, sí, pero no para el ahora.

    Si ya tenemos problemas con la IA y los sesgos integrados en sus algoritmos, ¿cómo detecta el sistema que el/los alumnos/as tienen la expresión que tienen porque está abrumado por algún problema extrínseco? COVID, Cáncer, dinero, violencia intra familiar, familiares con problemas con drogas, depresión, falta de sueño, mal día con un jefe/a, esposo/a, problemas con la tiroides

    O que sea la persona que enseña que tenga alguno de esos problemas ¿cómo afectaría su clase ese tipo de situaciones y juicios? Que sesgos aplicaría si está enseñando y a la vez «filtrando» y decodificando lo que ve.

    …vamos, que esto es lo más parecido a ser aprendiz de brujo con la tecnología… si nos quejamos del nivel de intrusión e irresponsabilidad de empresas como Facebook/Meta, los mismo aplica con tecnologías que «escanean» sin que entendamos qué hacen exactamente…

    Somos personas, y eso implica una complejidad abrumadora de momentos y situaciones. Ok, no todos, y no todo el tiempo, pero hay algo de falta de responsabilidad en soltar esto, sin más. O dejando que sea la tecnología la que lo maneje y solucione.

    Me hace acordar a la frase de «…la mano invisible del mercado…» de Adam Smith, y ya sabemos como termina el cuento.

    He tenido el enorme placer de enseñar presencialmente durante casi 10 años. Y cualquiera sabe que las personas cambian sus formas, modos y actitudes, dependiendo de factores de los que a veces ni saben ni son concientes.

    Recomiendo muchísimo el libro del neurofisiólogo Antonio Damasio:

    El error de Descartes. No somos seres racionales que expresamos emociones. Somos emociones, con forma de seres humanos. ¿Que software va a poder ver y entender eso?

    Alguien mucho más inteligente que yo, dijo acertadamente:

    Si estás tratando de resolver un problema, o encontrar una respuesta o solución a algo, ya sea en tu propia investigación o en un debate en internet, primero necesitas averiguar no solo qué es lo que estás midiendo, sino cómo lo vas a medir.

    Responder
    • Dedo-en-la-llaga - 20 abril 2022 - 01:18

      No, por favor, el iluminado de Damasio no. «Somos emociones con forma….», para ir a mear y no echar gota. Menudo cenutruio…
      Saludos.

      Responder
      • Javier - 20 abril 2022 - 22:18

        …tus argumentos son demoledores…

        Responder
  • #008
    Xaquín - 19 abril 2022 - 11:28

    Y de nuevo con la privacidad hemos topado, y con la falta de interacción positiva entre uno que enseña algo y otro que lo aprende, para lo que el uno necesita estar muy atento al otro (y viceversa), además de una retroalimentación que le afine lo más posible lo cerca que anda el «enseñado» (que también «enseña») al enseñante (que también debe ser «enseñado»)… lógicamente se enseñan diferentes aspectos del conocimiento humano (según estés en un lado o otro del río del conocimiento, o mejor en la salida o la llegada de cada etapa del saber).

    Se necesita un profe que mire a los ojos al alumnado (sea uno o ciento) y trate de recibir la máxima información posible «de vuelta». Si un algoritmo, con menos sesgos emocionales que el humano, te ayuda, excelente apoyo. ¿Cuántas veces nos despistamos los humano, mediocres HS, por una simple mirada fuera «de foco» (por ejemplo en machos la de una adolescente)? Algo que espero esté prohibido para un algoritmo realmente interesante.

    Porque el problema no está en el algoritmo, el problema está en el humano, que quiere un algoritmo para quitarle trabajo y a él le permita seguir navegando por internet. Por poner un ejemplo nada distópico (¡cuántos con periódico en el aula!).

    Así que menos panopticismo (menos filosofías memorizadas) y más eficiencia cognitiva, de como palpita el ser humano al que pretendes llegar con tu teórica sapiencia.

    ¡Cuánto tenemos que aprender aún, del trato con algoritmos! Espero que seamos más raudos, que con el trato educativo de crías humanas.

    Responder
    • Lua - 19 abril 2022 - 17:01

      Si mal, no te entiendo, creo que coincidimos en algo… la interactuacion profesor-alumno no puede ser medida… mas que con la «complicidad» de ambos…

      Te puedes encontrar con un alumno «ausente» en apariencia, y sin embargo, se esta quedando con todo lo que dices, y por las mismas, puedes ver frente a ti, al tipico que presta toda la atencion del mundo, y justo al terminar la clase, te aborda en la puerta y te machaca a preguntas de cosas que se han explicado… (no voy a decir que sean «cortos», seria de mal gusto, pero lo he vivido)

      Por las mismas, encontrarte a profesores (colegas que tengo) que son plenamente «mecanicos», que llegan, sueltan lo suyo, cobran y se van… y otros, que nos implicamos incluso dando un movil/email, donde hacernos consultas durante y despues del curso…

      El algoritmo para eso, lo veo ineficiente y hasta perverso…

      Desde 2005 me avala la experiencia en este aspecto…

      Responder
  • #010
    Fernando - 19 abril 2022 - 21:10

    Yo he sido profesor “toda la vida” y hay una cosa para mí clara, y es que los profesores tenemos súper desarrollada la capacidad de detectar el lenguaje no verbal de los alumnos, de manera que sabemos instantáneamente si alguien no atiende o si lo que estamos contando no interesa. Lo normal es que actuemos inmediatamente cuando vemos que pasa eso y hagamos algo para que la clase retome el interés o nos dirigimos verbalmente o solo con la mirada a los distraídos. Le va a ser difícil a un algoritmo mejorar eso.

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG