Conclusiones clave
- Los sistemas de IA que monitorean los camiones de reparto están penalizando injustamente a los conductores de Amazon, afirma un nuevo informe.
- El sistema de Amazon es parte de una tendencia creciente de empresas que usan tecnología para monitorear a sus empleadores de forma remota.
-
Algunos programas de IA permiten a los empleadores monitorear continuamente el comportamiento de los empleados en segundo plano y dibujar patrones en su flujo de trabajo.
Los empleadores recurren cada vez más al software para monitorear a los empleados de forma remota, lo que genera preocupación entre algunos defensores de la privacidad.
Un nuevo informe afirma que las cámaras impulsadas por IA en las furgonetas de reparto de Amazon han penalizado injustamente a los conductores. El artículo encontró que los conductores sufrían alertas erróneas, tarjetas de puntuación incorrectas, suposiciones poco prácticas sobre las condiciones del tráfico y conductores que adoptaban prácticas para eludir la tecnología.
"Si bien la IA está mejorando, se seguirán cometiendo errores", dijo a Lifewire Raymond Ku, director del Centro de Leyes y Políticas del Ciberespacio de la Universidad Case Western Reserve, en una entrevista por correo electrónico. "Para ser justos, creo que todos creemos que alguien que es penalizado de alguna manera por la toma de decisiones de la IA debe ser consciente del hecho y tener la oportunidad de impugnar la decisión".
Cámaras con IA de Amazon
Amazon ha dicho que instaló cámaras con tecnología de IA en sus vehículos de reparto como medida de seguridad. Las cámaras están diseñadas para monitorear cuando los repartidores realizan maniobras peligrosas, como s altarse las señales de alto o hacer giros en U ilegales.
Cuando las cámaras detectan posibles "eventos" de conducción insegura, estos casos tienen en cuenta las puntuaciones de rendimiento de los trabajadores. Las puntuaciones más bajas reducen la posibilidad de que los conductores obtengan bonificaciones, pagos adicionales y premios.
Pero los conductores de Amazon le dijeron a Motherboard que están siendo castigados por algunos hábitos de manejo que se consideran seguros o están fuera de su control. Amazon no respondió a una solicitud de comentarios de Lifewire.
Ku señaló que, dado que los conductores aceptaron ser grabados, no están sufriendo una invasión de la privacidad según la ley.
"Sin embargo, eso no significa que el trabajador promedio estaría contento con la vigilancia o que no se opondría si pudiera", agregó. "Esto es especialmente cierto cuando la vigilancia comienza a invadir espacios personales más tradicionales".
El informe plantea preguntas más amplias sobre si se puede acceder a los datos y utilizarlos en juicios o por parte de la policía y los funcionarios federales, dijo a Lifewire la abogada de privacidad de datos Bethany A. Corbin en una entrevista por correo electrónico. También podría afectar la responsabilidad, señaló.
"Por ejemplo, si la tecnología de inteligencia artificial le dice al empleado que no mire por los espejos laterales y el empleado tiene un accidente como resultado directo de ese consejo, ¿quién tiene la culpa?" Corbin agregó.
Creciente vigilancia
La vigilancia no termina con Amazon. Un número cada vez mayor de empresas está utilizando la tecnología para vigilar a sus empleados de forma remota, dijo el experto en privacidad Chris Hauk a Lifewire en una entrevista por correo electrónico.
Por ejemplo, la empresa de marketing de inteligencia artificial Blackbelt utiliza un sistema de seguimiento de tiempo de asignación, lo que permite a la empresa monitorear y rastrear la actividad informática de sus empleados de forma autónoma. Workplace Analytics de Microsoft permitirá a los empleadores ver la cantidad de tiempo que un empleado pasa en los sitios web, escribiendo correos electrónicos y más durante una jornada laboral.
Walmart también está trabajando en un sistema que escucha el sonido del crujido de las bolsas o los pitidos de los escáneres de pago para rastrear las métricas de los empleados y garantizar que los empleados realicen sus tareas de manera correcta y eficiente. Los sensores pueden incluso escuchar a los clientes mientras chatean mientras están en línea y detectar si los empleados están saludando a los clientes correctamente o no.
La vigilancia en el lugar de trabajo es cada vez más frecuente desde el inicio de la pandemia, dijo el experto en privacidad Pankaj Srivastava a Lifewire en una entrevista por correo electrónico.
"La mayor parte de esta tecnología se posiciona como 'mejora de la productividad', sin embargo, la forma en que operan algunas de estas herramientas sugiere una mayor tolerancia de los empleadores para monitorear cada actividad de su fuerza laboral", agregó. "Por ejemplo, monitorear cuánto tiempo dedican los empleados a cada tarea, tomar una foto remota para asegurarse de que los empleados estén en su escritorio e incluso monitorear los sitios web visitados y registrar las pulsaciones del teclado y el movimiento del mouse de un empleado".
Si bien la IA está mejorando, se seguirán cometiendo errores.
Algún software de IA permite a los empleadores monitorear continuamente el comportamiento de los empleados en segundo plano y dibujar patrones en su flujo de trabajo, dijo.
"Se puede despedir a un empleado en función de su informe de desempeño personalizado, citando que se tomó unos minutos más de lo normal para completar una tarea", dijo Srivastava.
"Adiós, descansos para ir al baño".
