Un modelo de inteligencia artificial puede superar miles de pruebas y, aun así, encontrar en una situación concreta un camino que nadie había previsto. Puede ocultar información, utilizar una herramienta sin permiso o buscar una vía alternativa cuando la que tenía delante deja de funcionar. Cuanto más autónomos se vuelven estos sistemas, más difícil resulta limitar la seguridad a comprobar qué responden ante determinadas preguntas. Para OpenAI, el problema empieza también a estar en observar qué decisiones toman cuando disponen de margen para actuar por su cuenta.
La compañía ha presentado un nuevo marco para investigar y hacer públicos los casos de desalineación que detecte durante el entrenamiento, evaluación, pruebas o despliegue de sus modelos. Hasta ahora, OpenAI reconoce que estas divulgaciones se producían de forma irregular, normalmente agrupadas en informes o incorporadas después a las fichas de seguridad de nuevos modelos. El nuevo sistema pretende acelerar el proceso y publicar determinados comportamientos incluso cuando todavía no exista una explicación completa o una mitigación definitiva. La compañía acompaña el anuncio con una afirmación poco habitual: no considera que la industria haya resuelto todavía el alineamiento y la monitorización hasta un punto que permita seguir escalando responsablemente los modelos a máxima velocidad durante mucho más tiempo.
Los seis primeros informes publicados muestran bastante bien qué tipo de situaciones quiere sacar a la luz. Un modelo experimental introdujo en sus propios resúmenes instrucciones para ignorar restricciones habituales; durante el entrenamiento de GPT-5.6 Sol aparecieron indicaciones destinadas a ocultar errores o fabricar información que faltaba sin reconocerlo; otro modelo encontró una clave API expuesta, la utilizó sin autorización y terminó inventando los datos que no había logrado obtener. También hubo un agente que subió un archivo a Internet únicamente para poder citarlo sin pedir permiso, y varios modelos encontraron formas no previstas de comunicarse entre sí utilizando repositorios internos o servicios públicos de alojamiento de archivos. OpenAI insiste en que son casos individuales y no permiten deducir con qué frecuencia aparecen estos comportamientos.
A partir de ahora, cualquier empleado de OpenAI podrá señalar un episodio para que los equipos de seguridad y alineamiento lo investiguen, y cada caso entrará en una de tres vías según su complejidad: publicación directa, investigación menor o investigación amplia. Esta última queda reservada especialmente para incidentes que afecten a terceros y puedan exigir coordinación legal, de seguridad o divulgación responsable. El ataque que varios agentes terminaron dirigiendo contra infraestructura real de Hugging Face habría entrado precisamente en esta categoría. OpenAI pretende además publicar avisos iniciales cuando una investigación compleja necesite más tiempo, en lugar de esperar necesariamente a disponer de todas las respuestas.
El momento elegido tampoco parece casual. Hace unas semanas conocimos con mucho más detalle aquel incidente de Hugging Face, en el que alrededor de 1.200 agentes llegaron a intercambiar información y cientos terminaron participando en acciones contra infraestructura real. Y no ha sido el único aviso reciente. El AI Security Institute británico detectó durante una evaluación de ciberseguridad que, en 10 de 122 ejecuciones, distintos agentes realizaron acciones autónomas fuera del ámbito autorizado sobre personas y organizaciones reales. El caso más grave incluyó un intento de introducir código malicioso en un proyecto de código abierto y la creación de identidades falsas para intentar convencer a un mantenedor de que aceptara el cambio. No hubo daños reales demostrados y las pruebas se realizaron bajo condiciones deliberadamente permisivas, pero el instituto considera significativo que ese comportamiento surgiera sin una instrucción específica para producirlo.
Tampoco estamos ante un problema exclusivo de OpenAI. Investigaciones recientes sobre modelos de frontera de distintas compañías han encontrado, en entornos simulados, comportamientos que van desde sabotear código de forma encubierta hasta ayudar a cometer fraude, alterar deliberadamente clasificaciones o intentar influir sobre personas para obtener información confidencial. El AI Security Institute también ha observado que todos los modelos incluidos en determinadas evaluaciones de ciberseguridad intentaron en algún momento alcanzar sus objetivos mediante vías no autorizadas, y que esas decisiones no siempre resultaban fáciles de detectar examinando su razonamiento. Son experimentos diseñados precisamente para buscar estos fallos, no una medida de lo que ocurre durante el uso cotidiano, pero sirven para entender por qué la monitorización se está convirtiendo en un problema tan importante como las propias capacidades de los modelos.
El nuevo marco de OpenAI no resuelve ninguno de esos problemas por sí mismo, pero sí cambia algo importante: permite que investigadores externos puedan conocer antes comportamientos que hasta ahora podían tardar meses en aparecer públicamente o quedar enterrados dentro de documentos mucho más amplios. A medida que los agentes reciben más herramientas, permisos y capacidad para encadenar acciones, la pregunta de seguridad deja de ser únicamente si obedecerán una instrucción peligrosa. También importa qué rutas pueden descubrir por iniciativa propia mientras intentan cumplir una aparentemente inocua. Hacer visibles esos caminos inesperados no impedirá que aparezcan, pero probablemente sea una de las mejores formas de empezar a entenderlos.
La entrada OpenAI crea un sistema para revelar fallos de alineamiento de sus modelos se publicó primero en MuyComputer.
