Conclusiones clave
- Los expertos en privacidad expresan su preocupación por el uso que hace Facebook de las fotos públicas de Instagram para entrenar la inteligencia artificial.
- Se le enseñó al programa a reconocer imágenes mostrándole a la computadora más de mil millones de fotos públicas.
- La política de privacidad de Instagram incluye una sección que permite a los usuarios saber que la información puede usarse en investigación y desarrollo.
El uso de fotos de Instagram por parte de Facebook para entrenar la inteligencia artificial está generando preocupaciones sobre la privacidad.
El gigante de las redes sociales anunció recientemente que había creado un software que puede aprender de lo que está mirando. Se enseñó al programa a reconocer imágenes mediante la revisión de más de mil millones de fotos públicas. Los expertos dicen que los usuarios deben saber que Facebook está usando sus imágenes.
"Se trata de conocer el consentimiento", dijo James E. Lee, director de operaciones del Identity Theft Resource Center, en una entrevista por correo electrónico.
"La política de privacidad de Instagram, que la mayoría de la gente probablemente no lee, establece muy claramente que la empresa se reserva el derecho de usar las fotos que publicas para investigar. Los usuarios pueden activar o desactivar el reconocimiento facial en su configuración de privacidad."
Mejor que el resto
El programa de Facebook, apodado SEER por AUTO-supervisado, superó a otros modelos de inteligencia artificial (IA) en una prueba de reconocimiento de objetos, afirmó la compañía. El programa logró una "puntuación de precisión de clasificación" de 84.2% cuando se sometió a una prueba que verifica si un programa de IA puede identificar lo que hay en una imagen.
"El desempeño de SEER demuestra que el aprendizaje autosupervisado puede sobresalir en tareas de visión por computadora en entornos del mundo real", dijo la compañía en una publicación de blog.
"Este es un gran avance que, en última instancia, allana el camino para modelos de visión artificial más flexibles, precisos y adaptables en el futuro".
Aunque los términos y condiciones de Facebook pueden permitirles aprovechar los datos de los usuarios de esa manera, la mayoría de los usuarios no son conscientes de manera explícita y activa de que sus datos se extraen para tales fines.
Si se lanza comercialmente, SEER ayudaría a identificar objetos, no personas, sin estar programado para saber a través de una etiqueta qué hay en una foto, dijo Lee. "Esa es una forma más eficiente y rápida que el método actual que requiere grandes conjuntos de datos para hacer coincidir un objeto con su identidad", agregó.
"Siempre existe la posibilidad de un uso indebido, pero también existen beneficios potenciales legítimos de este tipo de tecnología".
El programa de Facebook podría ayudar a la compañía a controlar mejor el contenido que viola sus políticas, por ejemplo, limitando la exposición no deseada a imágenes obscenas o gráficas, dijo Aimee O'Driscoll, investigadora de seguridad en el sitio de privacidad Comparitech, en una entrevista por correo electrónico. También podría usarse para describir imágenes automáticamente, mejorando las experiencias de usuario para personas con discapacidades visuales.
Ya aceptaste este programa
La política de privacidad de Instagram incluye una sección que les permite a los usuarios saber que la información puede usarse en investigación y desarrollo. "La empresa está utilizando su tesoro de datos para otra parte de su negocio, de forma similar a como utiliza los datos de los usuarios para alimentar su negocio de publicidad", dijo O'Driscoll.
"Aun así, es posible que los usuarios se sientan incómodos con el uso de sus imágenes de esta manera".
Yashar Behzadi, director ejecutivo de Synthesis AI, una empresa que utiliza inteligencia artificial para la visión por computadora, dijo que los últimos avances de IA de Facebook representan una "mejora significativa" en la capacidad de visión por computadora.
"Es probable que los usuarios esperen un mejor etiquetado de imágenes y búsqueda contextual, mientras que los anunciantes se beneficiarán de una orientación de usuario más precisa", agregó.
Pero el enfoque de Facebook de aprovechar miles de millones de imágenes de Instagram plantea serias preocupaciones normativas y de privacidad, dijo Behzadi.
"Aunque los términos y condiciones de Facebook pueden permitirles aprovechar los datos de los usuarios de esa manera, la mayoría de los usuarios no son explícita y activamente conscientes de que sus datos se extraen para tales fines", dijo.
"Creemos que las empresas deben ser más directas y transparentes con los usuarios, permitiéndoles un control total sobre sus datos".
Muchas otras empresas han utilizado inteligencia artificial para identificar el contenido de una imagen, señaló Bobby Gill, director ejecutivo del desarrollador de aplicaciones Blue Label Labs, en una entrevista por correo electrónico. "Sin embargo, el hecho de que esto casi con certeza se utilizará para marketing es lo que es preocupante", agregó.
El nuevo programa podría plantear posibles problemas de privacidad, dependiendo de cómo Facebook planee usar el sistema, dijo Gill.
"Es probable que estos datos sean accesibles para los vendedores técnicos que los usarían para identificar ciertas tendencias basadas en varios elementos identificados en una imagen", dijo.
"Por ejemplo, ser capaz de extraer información de las imágenes que las personas publican agrega otra dimensión a los sistemas asociativos que generalmente usan el comportamiento para perfilar y apuntar a las personas. Podría aprender que cualquier persona con, digamos, ranas en 3- Es muy probable que el 7 % de sus fotos compre equipos de fitness para el hogar".
