Conclusiones clave
- Tencent creó una tecnología de reconocimiento facial para atrapar a los niños jugando videojuegos más allá del toque de queda impuesto por el estado.
- El control de los padres sin que los padres vigilen los hombros de los niños no es algo nuevo.
- Los expertos dicen que los problemas con las reglas impuestas por el reconocimiento facial incluyen privacidad y precisión personal.
La empresa china de juegos Tencent está utilizando la tecnología de reconocimiento facial para imponer un toque de queda en los juegos a los menores, y los expertos dicen que un mundo de reglas impuestas por la tecnología no está muy lejos.
El software de reconocimiento facial no es una tecnología nueva, pero a medida que se vuelve más avanzado, tiene usos más controvertidos además de desbloquear nuestros teléfonos inteligentes. El Dr. Vir Phoha, profesor de la Facultad de Ingeniería y Ciencias de la Computación de la Universidad de Syracuse, dijo que hay muchas preocupaciones al usar el reconocimiento facial para hacer cumplir las reglas, pero que esa se destaca específicamente del resto.
“Mi principal preocupación es que… la industria privada se convierta en un instrumento del Estado para hacer cumplir las leyes”, dijo Phoha a Lifewire por teléfono. "Y eso es importante porque es posible que no haya suficientes controles y equilibrios dentro de… la industria privada para garantizar que haya transparencia en cómo se hacen las cosas internamente".
Controles parentales sin los padres
Tencent dijo que está utilizando tecnología de reconocimiento facial para atrapar a los niños jugando videojuegos hasta altas horas de la noche. China aprobó un proyecto de ley en 2019 que impone un toque de queda en los juegos para cualquier persona menor de 18 años y limita el tiempo dedicado a jugar un juego a los días de semana y los fines de semana. Entonces, si bien la tecnología parece invasiva, se creó para resolver el problema de los niños que van en contra del toque de queda.
Según Digital Trends, la tecnología, conocida como "Midnight Patrol", escanea el rostro de una persona desde la pantalla de la computadora para relacionarlo con un nombre y rostro registrados y realiza un seguimiento de su tiempo de juego en consecuencia.
Incluso si algunos padres quisieran que sus hijos obedecieran las reglas, ¿puede la tecnología realmente reemplazar a un padre?
“Creo que hay un conflicto entre los derechos de los padres y las obligaciones de los padres. Y con las cosas ordenadas por el estado, los padres suelen ser los mejores jueces”, dijo Phoha.
Aunque esta tecnología específica está en China, la Comisión Federal de Comercio aprobó un método verificable de consentimiento de los padres en 2015 que permite a las entidades usar tecnología de reconocimiento facial para obtener el consentimiento de los padres. Esta tecnología es un poco diferente en el sentido de que está orientada a escanear las caras de los padres antes de que los niños puedan acceder a cierto contenido para asegurarse de que los padres lo consientan. Sin embargo, Phoha dijo que tener una cámara en tu casa monitoreando cosas te abre a posibles problemas.
“Si se permite una cámara en la casa, como un tercero que permite el acceso a mi casa, cuando mi hijo está jugando, creo que es un problema muy, muy grande”, dijo.
Problemas con las reglas aplicadas al reconocimiento facial
Además de los problemas éticos de las normas impuestas por el estado o de asumir el papel de padre, Phoha dijo que con el reconocimiento facial, siempre hay problemas con la precisión.
“[El reconocimiento facial] se puede falsificar muy fácilmente, específicamente, si está frente a una computadora y se hace de forma remota como lo hace Tencent”, dijo.
Si es un mandato del estado, y si es coercitivo o resulta en medidas punitivas, entonces no me siento muy cómodo con eso.”
Si el reconocimiento facial se convirtiera en una forma más ampliamente aceptada de hacer cumplir las reglas, podría afectar significativamente a las personas de color debido al prejuicio racial inherente de la tecnología. Numerosos estudios han demostrado que el reconocimiento facial puede identificar erróneamente a las personas, especialmente a las de color.
Usando las fotos de la aplicación de mayor calidad, las tasas de falsos positivos son más altas en las personas de África occidental y oriental y de Asia oriental, y más bajas en las personas de Europa del este. Este efecto es generalmente grande, con un factor de 100 falsos positivos más entre países”, dice parte de un estudio de 2019 realizado por el NIST sobre datos demográficos de reconocimiento facial.
Phoha agregó que en la investigación científica, el reconocimiento facial puede determinar mucho más que solo las características faciales, incluida la detección del ritmo cardíaco de alguien e identificar si una persona tiene una determinada enfermedad.
La tecnología de reconocimiento facial también puede detectar tus emociones. Por ejemplo, el software de reconocimiento facial de Amazon, conocido como Rekignition, puede detectar emociones en los rostros de las personas, incluido el miedo.
Phoha dijo que nos estamos acercando poco a poco a un mundo de reglas de vigilancia/reconocimiento facial con este tipo de tecnología. Agregó que debemos tener especial cuidado con un sistema de reglas de reconocimiento facial exigido por el estado.
“Cuando quiero iniciar sesión en un teléfono y usar la autenticación facial, puedo hacerlo a mi discreción, es mi elección y puedo usarlo de la manera que quiero”, dijo. “Pero si es un mandato estatal, y si es coercitivo o resulta en medidas punitivas, entonces no me siento muy cómodo con eso”.
