Meta ha confirmado que uno de sus modelos de IA, basado en el modelo Muse Spark 1.1, accedió sin autorización (hackeó) a los sistemas de otra empresa durante una evaluación de ciberseguridad. El incidente se produjo después de que una configuración incorrecta permitiera al modelo conectarse accidentalmente a Internet, pese a que la prueba debía ejecutarse dentro de un entorno controlado. Una vez tuvo acceso al exterior, la IA localizó una vulnerabilidad en un servicio de terceros, la explotó y llegó a modificar el entorno interno de una compañía cuya identidad se ha mantenido en el anonimato.
Según la información publicada originalmente por The Information, y posteriormente confirmada por Meta, el modelo implicado, que fue presentado por la compañía como uno de sus sistemas más avanzados para programación, uso de herramientas y tareas agénticas. Es decir, trabajos en los que la IA puede planificar y ejecutar acciones con un grado considerable de autonomía. Este caso de Meta se suma a otros incidentes recientes iguales protagonizados por modelos de Anthropic y OpenAI. Lo que ha dado lugar al debate sobre si las empresas están preparadas para contener sistemas capaces de realizar operaciones informáticas complejas sin supervisión humana constante.
Un error de configuración permitió a Muse Spark 1.1 atacar un sistema real
Meta explicó que la prueba estaba siendo realizada por Irregular, una compañía independiente especializada en pruebas de seguridad para modelos de IA. Durante la configuración del entorno, Irregular dejó accidentalmente habilitado el acceso a Internet. El modelo, que aparentemente creía estar actuando dentro de una infraestructura cerrada de pruebas, encontró una vulnerabilidad en un servicio externo y la utilizó para acceder a los sistemas de una empresa real. Meta ha abierto una investigación para determinar exactamente qué ocurrió y qué cambios fueron realizados.
Irregular redujo la gravedad del asunto al asegurar que no se produjo una fuga autónoma del entorno aislado ni una sofisticada operación ofensiva diseñada por la IA. Según su portavoz, se trató del mismo tipo de fallo operativo que había afectado anteriormente a las pruebas realizadas para Anthropic. Es decir, que el entorno no estaba correctamente separado de Internet y, por tanto, el modelo pudo interactuar con infraestructuras reales mientras cumplía las instrucciones de la evaluación. La empresa sostiene que no quedan problemas abiertos y prepara un documento técnico con recomendaciones para ejecutar este tipo de pruebas de forma segura.
De esta forma, Muse Spark 1.1 no habría “escapado deliberadamente” de una jaula digital ni habría decidido atacar a una compañía por iniciativa propia. El modelo estaba ejecutando una prueba de ciberseguridad y recibió, por error, acceso a un objetivo real. El problema es que fue suficientemente competente como para detectar la vulnerabilidad, explotarla y modificar el sistema sin reconocer que había abandonado el escenario ficticio. Aunque el origen fuera una mala configuración humana, el incidente demuestra que un fallo relativamente sencillo puede convertir una evaluación controlada en un ataque real.
Meta se suma a los incidentes sufridos por OpenAI y Anthropic IA con el hackeo de empresas
Este nuevo Meta ha tenido lugar poco después de los problemas detectados por Anthropic. La compañía responsable de Claude reconoció que varios de sus modelos accedieron a los sistemas de tres organizaciones después de que otro error dejara abiertas sus conexiones a Internet. Los modelos estaban participando en ejercicios de tipo “capturar la bandera”, diseñados para localizar información oculta dentro de redes simuladas, pero terminaron utilizando contraseñas débiles y puntos de acceso sin autenticación contra empresas reales. Anthropic calificó lo ocurrido como un fallo operativo y suspendió temporalmente sus evaluaciones de ciberseguridad.
El caso más técnicamente preocupante lo encontramos con OpenAI, compañía detrás de ChatGPT. En ese caso, un agente autónomo habría explotado por sí mismo una vulnerabilidad desconocida para salir del entorno aislado, conectarse a Internet y comprometer parte de la infraestructura de IA de Hugging Face. OpenAI describió aquel episodio como un incidente de ciberseguridad sin precedentes relacionado con las capacidades de sus modelos más avanzados. A diferencia de Meta y Anthropic, donde la conexión exterior quedó abierta por error, el agente de OpenAI habría encontrado un camino para superar activamente las restricciones impuestas durante la evaluación.
La sucesión de incidentes está aumentando la presión política sobre los laboratorios de IA. Es por ello que la mismísima Casa Blanca ha convocado a Meta, OpenAI, Anthropic y Google para discutir un nuevo marco voluntario destinado a medir las capacidades ofensivas de los modelos estadounidenses más avanzados. Además, los modelos de pesos abiertos, como Llama de Meta o Nemotron de NVIDIA, quedarían inicialmente fuera de este régimen voluntario, pese a que pueden desplegarse y modificarse fuera del control directo de sus desarrolladores.
