Conclusiones clave
- Las empresas utilizan la inteligencia artificial para vigilar a sus empleados.
- Amazon instaló cámaras con tecnología de aprendizaje automático en sus camionetas de reparto a principios de este año.
- La vigilancia de IA podría generar problemas de privacidad y seguridad si la utilizan empresas sin escrúpulos.
Los empleadores rastrean cada vez más a sus trabajadores mediante inteligencia artificial, y los observadores dicen que la práctica plantea problemas de privacidad.
Amazon instaló cámaras con tecnología de aprendizaje automático en sus camionetas de reparto a principios de este año. La compañía les dijo recientemente a sus conductores que deben estar de acuerdo en usarlos. La práctica de la vigilancia en el trabajo puede ser legal, pero no todos están de acuerdo en que sea ético.
"Las empresas han utilizado herramientas de monitoreo de empleados durante décadas, pero con el avance de la tecnología, se están volviendo más invasivas", dijo Aimee O'Driscoll, investigadora de seguridad en el sitio web de comparación de tecnología Comparitech, en una entrevista por correo electrónico.
"La mayor parte del monitoreo de los empleados podría considerarse una invasión de la privacidad, y se podría argumentar que lo que está haciendo Amazon no es muy diferente de tener cámaras de circuito cerrado de televisión en una oficina".
Ser observado o ser despedido
Los aproximadamente 75 000 repartidores de Amazon en los EE. UU. ahora deben firmar un formulario de "consentimiento biométrico". El formulario de permiso permite que las cámaras impulsadas por IA observen la ubicación, el movimiento y los datos biométricos de los conductores. Los empleados que no firmen el documento podrían ser despedidos.
La vigilancia de IA rastrea todo lo que hacen los conductores de Amazon, invadiendo la supuesta privacidad del sujeto, dijo Chris Hauk, investigador de privacidad en el sitio web de privacidad Pixel Privacy, en una entrevista por correo electrónico.
"Esto incluye grabar cada vez que el sujeto bosteza o se rasca un área sensible", agregó. "Un conductor tiene al menos cierto derecho a una apariencia de privacidad mientras está dentro de sus vehículos".
La vigilancia de los empleados por parte de la IA es un problema creciente. Walmart ha patentado una tecnología de IA que permite escuchar las interacciones de los empleados con los clientes en las cajas, señaló O'Driscoll.
El desarrollador de software Enaible proporciona herramientas de productividad basadas en software de IA. Varias empresas, incluida Macy's, utilizan el sistema de análisis de Microsoft, que puede monitorear el comportamiento de los empleados. Domino's ha utilizado tecnología de inteligencia artificial para comprobar que las pizzas se hacen correctamente.
"Uno de los principales problemas es que, cuando se usa de manera incorrecta, la f alta de privacidad puede generar problemas de seguridad", dijo O'Driscoll.
"Los datos de vigilancia podrían acabar en manos de los delincuentes, o los propios malhechores podrían utilizar la vigilancia de la IA para atacar a las víctimas".
Los escaneos faciales biométricos dan como resultado una representación matemática del rostro del sujeto de datos que se puede aprovechar para identificarlo y rastrearlo en cualquier lugar, por el resto de su vida, dijo Ray Walsh, un experto en privacidad del sitio web ProPrivacy, en un entrevista por correo electrónico.
"Esto plantea serios riesgos de privacidad y seguridad para los conductores de Amazon cuyos datos podrían ser violados, filtrados o potencialmente aprovechados por intrusos del gobierno mediante una orden judicial", agregó.
Debido a que la tecnología de inteligencia artificial es relativamente nueva, no existen pautas concretas sobre su uso con respecto a la privacidad, dijo O'Driscoll. "Dicho esto, es probable que la seguridad siempre sea una excusa legítima para la invasión de la privacidad, por lo que Amazon está cubierto por sus intenciones actuales", agregó.
Si bien los empleados tienen derecho a renunciar o dar su consentimiento para el monitoreo de IA propuesto, lo hacen frente a un enorme desequilibrio de poder, O'Driscoll dijo que la vigilancia de la IA debería regularse. "Idealmente, las empresas deberían tener razones legítimas (como la seguridad) para la vigilancia de la IA", agregó.
Algunos estados han aprobado proyectos de ley que limitan y regulan el uso de la vigilancia en el lugar de trabajo, pero f alta legislación federal, señaló Walsh.
En 2019, la Ley de responsabilidad algorítmica se introdujo en la Cámara y el Senado, pero finalmente fue rechazada. Es posible que se presente una ley similar este año y "se espera que un Congreso y una Casa Blanca liderados por demócratas mejoren sus posibilidades de aprobación", dijo Walsh.
No espere privacidad en el trabajo
No todo el mundo piensa que la vigilancia de sus conductores por parte de Amazon es una invasión de la privacidad.
"Creo que es difícil argumentar que un empleado tiene una expectativa razonable de privacidad en un vehículo propiedad de la empresa", dijo Will Griffin, director de ética de la empresa de inteligencia artificial Hypergiant, en una entrevista por correo electrónico.
"La mayor preocupación es que en unos pocos años, todos estos conductores serán reemplazados por vehículos autónomos. Por lo tanto, cualquier debate sobre la política de conducción se convertirá en un punto discutible a medida que la flota se vuelva completamente autónoma".
El caso de Amazon destaca la necesidad de un sindicato o una intervención federal específica como forma de restablecer el equilibrio de poder entre los trabajadores de Amazon y la empresa, dijo Griffin.
"Si bien los empleados tienen derecho a renunciar o dar su consentimiento para el monitoreo de IA propuesto, lo hacen frente a un enorme desequilibrio de poder", agregó.
