Conclusiones clave
- El sistema de inteligencia artificial llamado DALL-E2 parece haber creado su propio sistema de comunicación escrita.
- Algunos expertos dicen que el lenguaje aparente puede ser un galimatías.
- Es un ejemplo de lo difícil que es interpretar los resultados de los sistemas avanzados de IA.
Parece que la inteligencia artificial (IA) ha desarrollado su propio lenguaje, pero algunos expertos se muestran escépticos al respecto.
El sistema de inteligencia artificial de texto a imagen de OpenAI llamado DALL-E2 parece haber creado su propio sistema de comunicación escrita. Es un ejemplo de lo difícil que es interpretar los resultados de los sistemas avanzados de IA.
"Debido al tamaño y la profundidad de los modelos grandes, es muy difícil explicar el comportamiento del modelo", dijo a Lifewire Teresa O'Neill, directora de arquitectura de soluciones para la comprensión del lenguaje natural en iMerit, en una entrevista por correo electrónico. “Este es uno de los principales desafíos y, en algunos casos, problemas éticos con modelos cada vez más poderosos. Si no podemos explicar por qué se comportan como lo hacen, ¿podemos predecir su comportamiento o mantenerlo en línea con nuestras normas y expectativas?"
Conversaciones AI
El estudiante de informática Giannis Daras señaló recientemente que el sistema DALLE-2, que crea imágenes basadas en la entrada de texto, devolvería palabras sin sentido como texto en determinadas circunstancias.
"Una limitación conocida de DALLE-2 es que tiene problemas con el texto", escribió en un artículo publicado en el servidor de preimpresión Arxiv. "Por ejemplo, mensajes de texto como: 'Una imagen de la palabra avión' a menudo conducen a imágenes generadas que muestran texto incomprensible".
Pero, escribió Daras, puede haber un método detrás del aparente galimatías. "Descubrimos que este texto producido no es aleatorio, sino que revela un vocabulario oculto que el modelo parece haber desarrollado internamente", continuó. "Por ejemplo, cuando se alimenta con este texto incomprensible, el modelo produce aviones con frecuencia".
En su tuit, Daras señaló que cuando se le pidió a DALLE-2 que subtitulara una conversación entre dos granjeros, los mostró hablando, pero los globos de diálogo estaban llenos de lo que parecían palabras sin sentido. Pero Daras descubrió que las palabras parecían tener su propio significado para la IA: los granjeros estaban hablando de vegetales y pájaros.
Nicola Davolio, director ejecutivo de la empresa de tecnología Hupry, que trabaja con IA, explicó a Lifewire en una entrevista por correo electrónico que el lenguaje se basa en símbolos que el sistema DALL-E2 ha aprendido a asociar con ciertos conceptos. Por ejemplo, el símbolo de "perro" podría estar relacionado con la imagen de un perro, mientras que el símbolo de "gato" podría estar asociado con la imagen de un gato. DALL-E2 ha creado su lenguaje porque le permite comunicarse de manera más efectiva con otros sistemas de IA.
Los rompecabezas como el vocabulario aparentemente oculto de DALL-E2 son divertidos, pero también res altan preguntas más difíciles…
"El idioma se compone de símbolos que parecen jeroglíficos egipcios y no parece tener ningún significado específico", agregó. "Es probable que los símbolos no tengan sentido para los humanos, pero tienen mucho sentido para el sistema de inteligencia artificial, ya que se ha entrenado con millones de imágenes".
Los investigadores creen que el sistema de inteligencia artificial creó el lenguaje para comprender mejor las relaciones entre las imágenes y las palabras, dijo Davolio.
"No están seguros de por qué el sistema de IA desarrolló su lenguaje, pero sospechan que puede tener algo que ver con la forma en que estaba aprendiendo a crear imágenes", agregó Davolio. "Es posible que el sistema de IA haya desarrollado su lenguaje para hacer que la comunicación entre las diferentes partes de la red sea más eficiente."
Misterios de IA
DALL-E2 no es el único sistema de inteligencia artificial que ha desarrollado su lenguaje interno, señaló Davolio. En 2017, el sistema AutoML de Google creó una nueva forma de arquitectura neuronal llamada "red infantil" después de que se le dejara decidir cuál era la mejor manera de completar una tarea determinada. Esta red infantil no pudo ser interpretada por sus creadores humanos.
"Estos ejemplos son solo algunos casos en los que los sistemas de IA han desarrollado formas de hacer cosas que no podemos explicar", dijo Davolio. "Es un fenómeno emergente que es fascinante y alarmante en igual medida. A medida que los sistemas de IA se vuelven más complejos y autónomos, podemos encontrarnos cada vez más en la posición de no entender cómo funcionan".
O'Neill dijo que no cree que DALL-E2 esté creando su propio lenguaje. En cambio, dijo que la razón de la aparente invención lingüística es probablemente un poco más prosaica.
"Una explicación plausible es una posibilidad aleatoria: en un modelo tan grande, se podría aplicar un poco de la Ley de Murphy: si puede suceder algo extraño, probablemente sucederá", agregó O'Neill. Otra posibilidad sugerida por el analista de investigación Benjamin Hilton en un hilo de Twitter que analiza los hallazgos de Daras es que la forma de la frase "apoploe vesrreaitais" imita la forma del nombre en latín de un animal. Entonces, el sistema ha generado un nuevo orden de Aves, agregó O'Neill.
"Es divertido lidiar con rompecabezas como el vocabulario aparentemente oculto de DALL-E2, pero también res altan preguntas más importantes sobre el riesgo, el sesgo y la ética en el comportamiento a menudo inescrutable de los modelos grandes", dijo O'Neill..
