Conclusiones clave
- Deep Nostalgia es un nuevo programa que te permite animar fotos antiguas.
- La tecnología muestra lo fácil que es crear videos de personas haciendo cosas que en realidad no han hecho en la vida real.
- La tecnología Deep Fake ya es tan sofisticada que es difícil saber si un video es real o generado por computadora, dice un experto.
Tenga cuidado con el nuevo software que puede crear las llamadas "falsificaciones profundas", en las que se pueden simular videos de personas reales, advierten los expertos.
Deep Nostalgia, lanzado por la compañía MyHeritage, está de moda en las redes sociales, con usuarios que reaniman a todos, desde compositores famosos hasta parientes fallecidos. El software está provocando reacciones mixtas, con algunas personas encantadas con las creaciones y otras encontrándolas espeluznantes. La tecnología muestra lo fácil que es crear videos de personas haciendo cosas que en realidad no han hecho en la vida real.
"La tecnología deepfake es cada vez más sofisticada y más peligrosa", dijo Aaron Lawson, subdirector del Laboratorio de Investigación y Tecnología del Habla (STAR) de SRI International, en una entrevista por correo electrónico. "Esto se debe en parte a la naturaleza de la inteligencia artificial. Donde la tecnología 'tradicional' requiere tiempo y energía humanos para mejorar, la IA puede aprender de sí misma.
"Pero la capacidad de la IA para desarrollarse es un arma de doble filo", continuó Lawson. "Si se crea una IA para hacer algo benévolo, fantástico. Pero cuando se diseña una IA para algo malicioso como falsificaciones profundas, el peligro no tiene precedentes".
El software da vida a las fotos
El sitio web de genealogía MyHeritage presentó el motor de animación el mes pasado. La tecnología, conocida como Deep Nostalgia, permite a los usuarios animar fotos a través del sitio web de MyHeritage. Una empresa llamada D-ID diseñó algoritmos para MyHeritage que recrean digitalmente el movimiento de rostros humanos. El software aplica los movimientos a las fotografías y modifica las expresiones faciales para que se muevan como suelen hacerlo los rostros humanos, según el sitio web de MyHeritage.
Deep Nostalgia muestra que la tecnología deep-fake es cada vez más accesible, dijo Lior Shamir, profesor de informática en la Universidad Estatal de Kansas, en una entrevista por correo electrónico. Está progresando rápidamente y eliminando incluso las diferencias sutiles entre el video y el audio falsos y reales.
"También ha habido un progreso sustancial hacia la falsificación profunda en tiempo real, lo que significa que se generan videos convincentes de falsificación profunda en el momento de la comunicación por video", dijo Shamir."Por ejemplo, uno puede tener una reunión de Zoom con cierta persona, mientras ve y escucha la voz de una persona completamente diferente".
También hay un número creciente de falsificaciones profundas basadas en el lenguaje, dijo Jason Corso, director del Instituto Stevens de Inteligencia Artificial en el Instituto Tecnológico de Stevens, en una entrevista por correo electrónico. "Generar párrafos completos de texto falso profundo para una agenda específica es bastante difícil, pero los avances modernos en el procesamiento profundo del lenguaje natural lo están haciendo posible", agregó.
Cómo detectar una falsificación profunda
Si bien la tecnología de detección de falsificación profunda aún se encuentra en una etapa incipiente, hay algunas formas de detectar una, dijo Corso, comenzando por la boca.
"La variabilidad en la apariencia del interior de la boca cuando alguien habla es muy alta, lo que dificulta animar de manera convincente", explicó Corso. “Se puede hacer, pero es más difícil que el resto de la cabeza. Observe cómo los videos de Deep Nostalgia no demuestran la capacidad de que la fotografía diga 'Te amo' o alguna otra frase durante la creación de deep fake. Hacerlo requeriría abrir y cerrar la boca, lo cual es muy difícil para la generación de deep fake".
Ghosting es otro obsequio, agregó Corso. Si ve borrosidad alrededor de los bordes de la cabeza, eso es el resultado de "movimiento rápido o píxeles limitados disponibles en la imagen de origen. Una oreja podría desaparecer parcialmente momentáneamente, o el cabello podría volverse borroso donde no lo esperaría", dijo. dijo.
También puede buscar variaciones de color cuando intente detectar un video falso profundo, como una línea nítida en la cara, con colores más oscuros en un lado y más claros en el otro.
"Los algoritmos informáticos a menudo pueden detectar estos patrones de distorsión", dijo Shamir. "Pero los algoritmos de falsificación profunda están avanzando rápidamente. Es inevitable que se requieran leyes estrictas para proteger contra la falsificación profunda y el daño que pueden causar fácilmente".
