Conclusiones clave
- La inteligencia artificial y los algoritmos de aprendizaje automático observan el comportamiento humano y pueden aprender a manipularlo, dicen los expertos.
- Los investigadores crearon recientemente una forma de encontrar y explotar las vulnerabilidades en las formas en que las personas toman decisiones usando IA.
- El algoritmo de redes sociales más sofisticado en este momento es TikTok, dice un observador.
La inteligencia artificial (IA) y los algoritmos de aprendizaje automático están aprendiendo cada vez más cómo influir en el comportamiento de los usuarios, dicen los expertos.
Investigadores de la agencia científica nacional de Australia crearon recientemente una forma de encontrar y explotar vulnerabilidades en las formas en que las personas toman decisiones utilizando IA. La investigación más reciente es solo una de una ola de sistemas impulsados por IA diseñados para manipular la toma de decisiones humana.
"Las muchas formas en que la IA ya está influyendo en el comportamiento no tienen fin", Kentaro Toyama, profesor de la Escuela de Información de la Universidad de Michigan y autor de Geek Heresy: Rescuing Social Change from the Cult of Technology, dijo en una entrevista por correo electrónico.
"De hecho, si alguna vez realizó una búsqueda en Google y siguió un enlace, se vio afectado por un sistema de inteligencia artificial que adivinó sus intereses y arrojó los resultados que consideró más relevantes para usted".
IA contra humanos
En la investigación australiana publicada en un artículo reciente, los participantes humanos jugaron juegos contra una computadora en varios experimentos. El primer experimento hizo que los participantes hicieran clic en cuadros de color rojo o azul para ganar dinero.
La IA tuvo éxito aproximadamente el 70 % de las veces, aprendiendo los patrones de elección de los participantes y guiándolos hacia una elección específica.
En otro experimento, los participantes miraron una pantalla y presionaron un botón cuando se les mostró un símbolo en particular, o no lo presionaron cuando se les ofreció otro. La IA aprendió a reorganizar los símbolos, por lo que los participantes cometieron más errores.
El resultado de los experimentos, concluyeron los investigadores, fue que la IA aprendió de las respuestas de los participantes. Luego, la máquina identificó y apuntó a las vulnerabilidades en la toma de decisiones de las personas. En efecto, la IA podría manipular a los participantes para que realicen acciones particulares.
El hecho de que la IA o el aprendizaje automático puedan manipular a las personas no debería sorprender, dicen los observadores.
"La inteligencia artificial influye en nuestro comportamiento todos los días", dijo Tamara Schwartz, profesora asistente de ciberseguridad y administración de empresas en York College of Pennsylvania, en una entrevista por correo electrónico.
"Escuchamos todo el tiempo sobre los algoritmos en aplicaciones de redes sociales como Facebook o Twitter. Estos algoritmos dirigen nuestra atención al contenido relacionado y crean el efecto de 'cámara de eco', que a su vez influye en nuestro comportamiento".
TikTok está mirando
El algoritmo de redes sociales más sofisticado en este momento es TikTok, dijo Schwartz. La aplicación analiza lo que te interesa, cuánto tiempo miras algo y qué tan rápido te s altas algo, luego refina sus ofertas para que sigas mirando.
"TikTok es mucho más adictivo que otras plataformas debido a este algoritmo de IA, que entiende lo que te gusta, cómo aprendes y cómo eliges la información", agregó. "Lo sabemos porque el tiempo promedio que los usuarios pasan en TikTok es de 52 minutos".
La manipulación del comportamiento humano por parte de la inteligencia artificial podría tener usos positivos, argumentó Chris Nicholson, director ejecutivo de la empresa de inteligencia artificial Pathmind, en una entrevista por correo electrónico. Las agencias de salud pública, por ejemplo, podrían usar la IA para alentar a las personas a tomar mejores decisiones.
"Sin embargo, las redes sociales, los creadores de videojuegos, los anunciantes y los regímenes autoritarios están buscando formas de incentivar a las personas para que tomen decisiones que no les convienen, y esto les brindará nuevas herramientas para hacerlo". añadió.
Los problemas éticos con la IA que influye en el comportamiento suelen ser de grado, dijo Toyama. La IA permite publicidad enfocada en la que se pueden explotar las preferencias y debilidades individuales.
"Es posible, por ejemplo, que un sistema de inteligencia artificial identifique a las personas que están tratando de dejar de fumar y las llene de tentadores anuncios de cigarrillos", agregó.
No todo el mundo está de acuerdo en que la manipulación del comportamiento humano por parte de la IA es problemática. Tanto la psicología clásica como la IA observan datos, señaló Jason J. Corso, director del Instituto Stevens de Inteligencia Artificial, en una entrevista por correo electrónico.
"Los científicos humanos probablemente sean mejores para generalizar observaciones y destilar teorías del comportamiento humano que pueden ser de aplicación más amplia, mientras que los modelos de IA serían más aptos para identificar matices específicos de problemas", dijo Corso.
"Desde un punto de vista ético, no veo ninguna diferencia entre estos".
