Nocturnos exámenes en la escuela Kings Peak de Utah: ética frente a la comodidad

En medio de la noche, estudiantes de 3️⃣ la escuela Kings Peak de Utah están completamente despiertos - rindiendo exámenes obligatorios.

En esta escuela solo en línea, que 3️⃣ abrió durante la pandemia y ha visto un aumento constante en su matrícula desde entonces, los estudiantes rinden exámenes desde 3️⃣ sus hogares en horarios que se ajustan a sus horarios. El director Ammon Wiemers afirma que es esta flexibilidad la 3️⃣ que atrae a los estudiantes, incluidos los atletas y adolescentes con trabajos a tiempo parcial, desde todo el estado.

Sin 3️⃣ embargo, cualquier estudiante que se sienta obligado a engañar mientras su maestro duerme a su lado debería saber que sigue 3️⃣ siendo observado.

El costo de la comodidad las 24h es su privacidad. Durante los exámenes, cada uno de sus movimientos 3️⃣ es capturado por la webcam de su computadora y escrutado por Proctorio, una empresa de vigilancia que utiliza inteligencia artificial. 3️⃣ El software Proctorio realiza "escaneos de escritorio" en un esfuerzo por atrapar a los candidatos que recurren a "recursos no 3️⃣ autorizados", utiliza "detección de rostros" para garantizar que no haya nadie más en la habitación para ayudar y "detección de 3️⃣ miradas" para detectar a quienes se alejan de la pantalla durante un período prolongado de tiempo.

Proctorio luego proporciona registros 3️⃣ visuales y de audio a los maestros de Kings Peak con el algoritmo que presta atención particular a los estudiantes 3️⃣ cuyo comportamiento durante el examen los marcó como posiblemente involucrados en infracciones académicas.

Herramientas de supervisión remota en aumento

Las herramientas 3️⃣ de supervisión remota han crecido exponencialmente durante la pandemia, especialmente en colegios y universidades estadounidenses, donde los administradores que buscaban 3️⃣ garantizar la integridad de los exámenes durante el aprendizaje remoto se encontraron con una fuerte resistencia de los estudiantes. Peticiones 3️⃣ en línea exigieron el fin del régimen de vigilancia; demandas acusaron a las herramientas de violar sus derechos constitucionales y 3️⃣ de depender de "algoritmos racistas" que desencadenan una bandera roja cuando el sistema falla al detectar los rostros de los 3️⃣ estudiantes negros.

El uso de herramientas de supervisión remota en las escuelas K-12, sin embargo, ha pasado relativamente desapercibido. Casi 3️⃣ un año después de que expirara la emergencia de salud pública federal, un análisis de la 74 ha revelado que 3️⃣ las escuelas K-12 de todo el país - y, en particular, los programas en línea - continúan utilizando herramientas de 3️⃣ empresas de supervisión digital en estudiantes, incluidos aquellos menores de edad.

Preocupaciones de privacidad y seguridad

Activistas de derechos civiles, que 3️⃣ afirman que las herramientas de AI fallan al funcionar como se supone, están sesgadas y violan las protecciones constitucionales de 3️⃣ los estudiantes, argumentan que las preocupaciones de privacidad y seguridad son particularmente graves para los niños y adolescentes jóvenes, quienes 3️⃣ pueden no ser plenamente conscientes del monitoreo o sus implicaciones.

"Es el mismo tema al que siempre regresamos con la 3️⃣ vigilancia estudiantil: no es una herramienta efectiva para lo que se supone que es eficaz, pero produce realmente daños a 3️⃣ los estudiantes", dijo Chad Marlow, consejero político principal de la Unión Americana de Libertades Civiles.

'Un placebo'

A finales del año 3️⃣ pasado, el fundador y CEO de Proctorio, Mike Olsen, publicó un artículo de blog en respuesta a la investigación crítica 3️⃣ de la empresa. Un estudiante universitario de Ohio experimentado en tecnología llevó a cabo un análisis y concluyó que las 3️⃣ capacidades de detección facial de Proctorio se basaban en una biblioteca de software de código abierto con un historial de 3️⃣ sesgos raciales, incluidos errores al reconocer los rostros negros más del 50% de las veces.

El estudiante probó las capacidades 3️⃣ de detección facial de la empresa contra un conjunto de datos de casi 11.000 imágenes, llamado FairFace, que representaba a 3️⃣ personas de múltiples razas y etnias, con resultados que mostraban un fracaso en la distinción de rostros negros el 57% 3️⃣ de las veces, rostros de Medio Oriente el 41% de las veces y rostros blancos el 40% de las veces. 3️⃣ Una tasa de fracaso tan alta era problemática para Proctorio, que se basa en su capacidad para marcar a los 3️⃣ tramposos centrándose en las facciones y los movimientos de las personas.

El artículo de blog de Olsen intentó desacreditar la 3️⃣ investigación, argumentando que si bien el conjunto de datos FairFace se había utilizado para identificar prejuicios en otros algoritmos de 3️⃣ detección facial, las imágenes no eran representativas de "la experiencia real de un examinado remoto".

A Ian Linkletter, un bibliotecario 3️⃣ de Canadá involucrado en una batalla larga con Proctorio sobre si sus productos son nocivos, la respuesta de Olsen fue 3️⃣ desconcertante. Según Linkletter, los personajes animados no realizan exámenes. Pero los niños, dijo, ciertamente sí. Lo que no estaba seguro, 3️⃣ sin embargo, fue si aquellos jóvenes examinados eran supervisados por Proctorio - así que decidió descubrirlo.