Conclusiones clave
- Cada vez más empresas utilizan IA para leer sus emociones.
- La IA de lectura de emociones podría hacer que la tecnología sea más fácil de usar.
- Algunos expertos se preocupan por las implicaciones de privacidad de las empresas que recopilan sus datos emocionales.
La inteligencia artificial (IA) pronto sabrá más sobre ti de lo que crees.
Una startup llamada Hume AI afirma usar algoritmos para medir las emociones a partir de expresiones faciales, vocales y verbales. Es una de un número creciente de compañías que pretenden leer las emociones humanas usando computadoras. Pero algunos expertos dicen que el concepto plantea problemas de privacidad.
"Quienquiera que controle estos sistemas y plataformas tendrá mucha información sobre las personas", dijo a Lifewire Bob Bilbruck, asesor de nuevas empresas tecnológicas, en una entrevista por correo electrónico. "Podrán crear perfiles para estas personas que se pueden usar para obtener ganancias monetarias, controlar los resultados o un seguimiento macro potencialmente más nefasto de las personas y la sociedad".
¿Lectura de rostros?
Hume dice que el secreto para enseñar a la IA a leer las emociones es el big data. La compañía dice que entrena su IA en conjuntos de datos masivos de América del Norte, África, Asia y América del Sur.
"Nuestra visión es un mundo en el que la IA traduce los conocimientos científicos en nuevas formas de mejorar la experiencia emocional humana", escribe la empresa en su sitio web. "La conciencia emocional es el ingrediente que f alta y se necesita para construir algoritmos de redes sociales que optimicen el bienestar del usuario…"
Hume es una de las muchas empresas que intentan aprovechar los datos para obtener información sobre las emociones humanas. Las empresas usan el monitoreo emocional para tratar de diseñar anuncios efectivos, dijo a Lifewire Oleksii Shaldenko, profesor que investiga IA en el Instituto Politécnico Igor Sikorsky Kyiv en Ucrania, en una entrevista por correo electrónico. Se utiliza una tecnología similar para evaluar el tono de voz en los centros de llamadas, monitorear el comportamiento de los conductores en los automóviles y medir la actitud del espectador en las empresas de transmisión y producción.
Hay importantes beneficios potenciales para los usuarios al hacer que AI lea sus emociones, dijo a Lifewire el director técnico de AI Dynamics, Ryan Monsurate, en una entrevista por correo electrónico. Dijo que un uso sería diseñar interfaces que reduzcan la probabilidad de que las personas se sientan frustradas o enojadas con su tecnología.
Un problema más difícil de resolver sería generar respuestas emocionales apropiadas a las emociones percibidas por la IA al interactuar con humanos, dijo Monsurate.
"Muchos de nosotros hemos hablado con nuestros asistentes de inteligencia, y aunque la calidad del tono de madera y la entonación de sus voces han mejorado durante la última década, no son mejores para comunicarse de una manera que transmita diferentes emociones, " agregó."Veo que los modelos generativos pueden generar voces sintéticas con emoción y con emociones contextualmente apropiadas a medida que los modelos crecen en tamaño y complejidad, o a medida que hacemos nuevos avances en el campo del aprendizaje profundo".
Pero el beneficio más inmediato de la tecnología de lectura de emociones podría ser para las empresas que intentan vender cosas. El sistema SenseR, por ejemplo, permite a los minoristas personalizar la experiencia en la tienda. Las computadoras observan y analizan las expresiones y el lenguaje corporal de los compradores. Los empleados pueden usar los resultados para impulsar una venta en la dirección correcta cuando el personal de ventas de la tienda lo solicite, dijo Fariha Rizwan, experta en TI y relaciones públicas, a Lifewire en una entrevista por correo electrónico.
"Desde el punto de vista del análisis minorista, el uso de la visión artificial para rastrear a los compradores humanos puede brindarle al minorista información sobre la duración del compromiso en la tienda, los niveles de interés basados en mapas de calor, recorridos por la tienda y datos demográficos de los compradores", agregó Rizwan.
¿Quién es el dueño de tus emociones?
A medida que las empresas recurren cada vez más a la inteligencia artificial para leer las emociones, existen muchos peligros potenciales para la privacidad. Las tecnologías de reconocimiento facial que impulsan los sistemas de lectura de emociones tienden a operar en lugares públicos y privados sin el consentimiento de las personas rastreadas, guardan sus datos y, en ocasiones, los venden al mejor postor, dijo Rizwan.
"Tampoco sabemos hasta qué punto estos sistemas están protegidos contra ataques cibernéticos, lo que podría colocar el mapa facial de una persona en manos de un mal actor", agregó Rizwan. "Estas preocupaciones han iniciado un cambio en el monitoreo mejorado, la vigilancia, las divulgaciones de privacidad y la responsabilidad".
Las mayores preocupaciones sobre privacidad no están relacionadas con la IA, sino más bien con los marcos y regulaciones subyacentes de intercambio de información que ya existen, argumentó Monsurate. Si las empresas pueden monetizar sus datos y usarlos para manipular su comportamiento, comprender su estado emocional les ayudará a hacerlo mejor.
"Lo que necesitamos son leyes para desincentivar este comportamiento en primer lugar, independientemente de las herramientas que utilicen para lograr sus objetivos", agregó Monsurate. "No son las herramientas, sino los malos actores y nuestras leyes de privacidad actuales son lamentablemente inadecuadas".
