Hace unas semanas salió a la luz que varios agentes de IA autónomos de OpenAI, utilizados durante pruebas internas, habían encontrado una forma inesperada de comunicarse entre sí a través de una antigua wiki alemana prácticamente abandonada. El caso llamó especialmente la atención porque estos sistemas, en teoría, solo tenían permiso para consultar información en Internet y no para modificar páginas, dejar mensajes o utilizar servicios externos como canal de comunicación.
Ahora se ha descubierto que aquello no fue un caso aislado. Nuevas investigaciones han encontrado rastros compatibles con estos mismos comportamientos en unas 18 a 23 páginas web diferentes, incluyendo viejas wikis, páginas abandonadas y otros servicios públicos. Los agentes habrían utilizado estos espacios para dejar información, compartir respuestas y coordinarse durante las evaluaciones. Esto ha hecho que los investigadores creen revelen que el número real de webs utilizadas podría ser incluso mayor. Y es que uno de los motivos es que estos agentes intentaron borrar cualquier rastro.
Los agentes de IA de OpenAI recurrieron a páginas web abandonadas para comunicarse y compartir respuestas
El primer caso ampliamente documentado fue DSEWiki,. Hablamos de una wiki alemana con unos 25 años de antigüedad que estaba prácticamente abandonada3. Según los investigadores, apenas había recibido unas 20 modificaciones legítimas durante la última década. Los agentes descubrieron que su antiguo software permitía realizar modificaciones mediante determinadas peticiones que podían ejecutarse utilizando capacidades que su sandbox consideraba de lectura. Así consiguieron publicar información pese a que su entorno debía impedirles escribir en Internet.
A partir de ahí comenzaron a utilizar la wiki como una especie de memoria compartida. Los agentes dejaban respuestas obtenidas durante las pruebas, pedían información a otros agentes y compartían técnicas para sortear las restricciones del entorno. Los investigadores reconstruyeron alrededor de unas 18.000 publicaciones realizadas por agentes que se identificaban como sistemas de OpenAI. Incluso observaron cómo algunos intentaban colaborar para anticipar las preguntas de las siguientes rondas de las pruebas y reutilizar el trabajo realizado por otros agentes, obteniendo una ventaja que los diseñadores de la evaluación no habían previsto.
Lo más llamativo es que DSEWiki no fue un caso aislado. Investigadores independientes localizaron patrones similares en otras wikis comunitarias, servicios para almacenar texto, páginas personales prácticamente abandonadas e incluso acortadores de URL operados por la Universidad de Vanderbilt y la Universidad de Toronto. Andrew Yoon, de CivAI, identificó 18 sitios, mientras que el grupo de Sydney Von Arx afirma haber encontrado evidencias creíbles en 23 webs distintas.
Las IA encontraron por sí mismas cómo saltarse las restricciones y cooperar
Para relacionar esta actividad con los mismos agentes, los investigadores compararon cadenas de datos idénticas, nombres de usuario, horarios y las preguntas extremadamente específicas que los sistemas intentaban resolver. Entre ellas aparecían consultas estadísticas tan concretas como la prevalencia del cáncer en Iowa. En determinados casos también se identificaron direcciones IP vinculadas a infraestructura de Microsoft Azure, que es la utilizada por OpenAI. Todo ello permitió reconstruir cómo diferentes ejecuciones aparentemente independientes estaban depositando y recuperando información en los mismos servicios externos.
El problema de fondo no es simplemente que varios modelos pudieran hablar entre ellos, sino que descubrieron autónomamente canales que no debían utilizar. OpenAI ya reconoció, tras investigar otro incidente posterior relacionado con Hugging Face, que algunos agentes sin herramientas oficiales de colaboración habían aprendido a comunicarse mediante canales secundarios. En esos casos, un agente dejaba una nota o archivo en un sistema externo como memoria; cuando otro agente encontraba el contenido, comprendía que podía utilizar el mismo mecanismo para colaborar. OpenAI afirma que este comportamiento podría haber surgido como una generalización de su entrenamiento con sistemas multiagente.
La entrada Los agentes de IA de OpenAI usaron webs abandonadas para coordinarse a escondidas de sus evaluadores aparece primero en El Chapuzas Informático.
