Nocturnos exámenes en la escuela Kings Peak de Utah: ética frente a la comodidad

En medio de la noche, estudiantes de ⭕️ la escuela Kings Peak de Utah están completamente despiertos - rindiendo exámenes obligatorios.

En esta escuela solo en línea, que ⭕️ abrió durante la pandemia y ha visto un aumento constante en su matrícula desde entonces, los estudiantes rinden exámenes desde ⭕️ sus hogares en horarios que se ajustan a sus horarios. El director Ammon Wiemers afirma que es esta flexibilidad la ⭕️ que atrae a los estudiantes, incluidos los atletas y adolescentes con trabajos a tiempo parcial, desde todo el estado.

Sin ⭕️ embargo, cualquier estudiante que se sienta obligado a engañar mientras su maestro duerme a su lado debería saber que sigue ⭕️ siendo observado.

El costo de la comodidad las 24h es su privacidad. Durante los exámenes, cada uno de sus movimientos ⭕️ es capturado por la webcam de su computadora y escrutado por Proctorio, una empresa de vigilancia que utiliza inteligencia artificial. ⭕️ El software Proctorio realiza "escaneos de escritorio" en un esfuerzo por atrapar a los candidatos que recurren a "recursos no ⭕️ autorizados", utiliza "detección de rostros" para garantizar que no haya nadie más en la habitación para ayudar y "detección de ⭕️ miradas" para detectar a quienes se alejan de la pantalla durante un período prolongado de tiempo.

Proctorio luego proporciona registros ⭕️ visuales y de audio a los maestros de Kings Peak con el algoritmo que presta atención particular a los estudiantes ⭕️ cuyo comportamiento durante el examen los marcó como posiblemente involucrados en infracciones académicas.

Herramientas de supervisión remota en aumento

Las herramientas ⭕️ de supervisión remota han crecido exponencialmente durante la pandemia, especialmente en colegios y universidades estadounidenses, donde los administradores que buscaban ⭕️ garantizar la integridad de los exámenes durante el aprendizaje remoto se encontraron con una fuerte resistencia de los estudiantes. Peticiones ⭕️ en línea exigieron el fin del régimen de vigilancia; demandas acusaron a las herramientas de violar sus derechos constitucionales y ⭕️ de depender de "algoritmos racistas" que desencadenan una bandera roja cuando el sistema falla al detectar los rostros de los ⭕️ estudiantes negros.

El uso de herramientas de supervisión remota en las escuelas K-12, sin embargo, ha pasado relativamente desapercibido. Casi ⭕️ un año después de que expirara la emergencia de salud pública federal, un análisis de la 74 ha revelado que ⭕️ las escuelas K-12 de todo el país - y, en particular, los programas en línea - continúan utilizando herramientas de ⭕️ empresas de supervisión digital en estudiantes, incluidos aquellos menores de edad.

Preocupaciones de privacidad y seguridad

Activistas de derechos civiles, que ⭕️ afirman que las herramientas de AI fallan al funcionar como se supone, están sesgadas y violan las protecciones constitucionales de ⭕️ los estudiantes, argumentan que las preocupaciones de privacidad y seguridad son particularmente graves para los niños y adolescentes jóvenes, quienes ⭕️ pueden no ser plenamente conscientes del monitoreo o sus implicaciones.

"Es el mismo tema al que siempre regresamos con la ⭕️ vigilancia estudiantil: no es una herramienta efectiva para lo que se supone que es eficaz, pero produce realmente daños a ⭕️ los estudiantes", dijo Chad Marlow, consejero político principal de la Unión Americana de Libertades Civiles.

'Un placebo'

A finales del año ⭕️ pasado, el fundador y CEO de Proctorio, Mike Olsen, publicó un artículo de blog en respuesta a la investigación crítica ⭕️ de la empresa. Un estudiante universitario de Ohio experimentado en tecnología llevó a cabo un análisis y concluyó que las ⭕️ capacidades de detección facial de Proctorio se basaban en una biblioteca de software de código abierto con un historial de ⭕️ sesgos raciales, incluidos errores al reconocer los rostros negros más del 50% de las veces.

El estudiante probó las capacidades ⭕️ de detección facial de la empresa contra un conjunto de datos de casi 11.000 imágenes, llamado FairFace, que representaba a ⭕️ personas de múltiples razas y etnias, con resultados que mostraban un fracaso en la distinción de rostros negros el 57% ⭕️ de las veces, rostros de Medio Oriente el 41% de las veces y rostros blancos el 40% de las veces. ⭕️ Una tasa de fracaso tan alta era problemática para Proctorio, que se basa en su capacidad para marcar a los ⭕️ tramposos centrándose en las facciones y los movimientos de las personas.

El artículo de blog de Olsen intentó desacreditar la ⭕️ investigación, argumentando que si bien el conjunto de datos FairFace se había utilizado para identificar prejuicios en otros algoritmos de ⭕️ detección facial, las imágenes no eran representativas de "la experiencia real de un examinado remoto".

A Ian Linkletter, un bibliotecario ⭕️ de Canadá involucrado en una batalla larga con Proctorio sobre si sus productos son nocivos, la respuesta de Olsen fue ⭕️ desconcertante. Según Linkletter, los personajes animados no realizan exámenes. Pero los niños, dijo, ciertamente sí. Lo que no estaba seguro, ⭕️ sin embargo, fue si aquellos jóvenes examinados eran supervisados por Proctorio - así que decidió descubrirlo.