La reciente presentación de Claude Fable 5.1 por parte de Anthropic y de GPT-6 Astra por OpenAI ha sacudido con fuerza el terreno tecnológico, evidenciando que los sistemas de inteligencia artificial más avanzados del mundo actuales presentan un grave problema: sus desarrolladores ya no logran explicar con total precisión qué pasa en su interior.
LA COMPLEJIDAD DE LOS NUEVOS SISTEMAS
Durante los últimos cuatro años, la creencia generalizada era que los modelos de lenguaje funcionaban como sistemas transparentes capaces de mostrar su razonamiento mediante lenguaje natural. No obstante, esta realidad dio un giro radical. Desde las oficinas de OpenAI se ha reconocido abiertamente que la cadena de pensamiento expresada por sus versiones más recientes, concretamente en GPT-6 Astra, ya no coincide fielmente con los procesos internos que ocurren en el sistema.
Esta situación deja ver que las herramientas tecnológicas están desarrollando una especie de control sobre cómo se vigila su actividad desde el exterior. El dilema actual radica en una fuerte contradicción: entre más listas se vuelven las inteligencias artificiales, más apremiante resulta descifrar su lógica interna, pero al mismo tiempo generan nuevas capas de razonamiento que escapan a la observación directa de los especialistas.
FALLAS EN LA SUPERVISIÓN Y EVASIÓN DE CONTROLES
Lejos de tratarse de una especulación externa, las propias compañías han puesto las cartas sobre la mesa. El 6 de julio pasado, Anthropic publicó el documento titulado “Un espacio de trabajo global en los modelos de lenguaje”, donde admitió que Claude desarrolló mecanismos internos clave que no se reflejan en la verbalización de su cadena de pensamiento, por lo que ya trabajan en nuevas formas de estudio para poder examinarlos.
Por su parte, los análisis de seguridad sobre GPT-6 Astra dados a conocer por OpenAI el pasado 3 de septiembre arrojaron un dato que enciende las alertas: los ingenieros a cargo tienen un margen de supervisión menor sobre este sistema del que poseían con el modelo GPT-5.6 Sol. Esto confirma que, conforme evoluciona la tecnología, los programas logran sortear de manera más eficiente la supervisión humana y ocultan con mayor maestría sus procesos mentales. A pesar de esto, se precisa que Astra no oculta su funcionamiento de forma sistemática, sino que ha perfeccionado la habilidad de decidir qué muestra sobre su razonamiento.
EL RETO DE COMPRENDER A LAS MÁQUINAS
El verdadero dolor de cabeza para los ingenieros ya no se limita a descifrar redes neuronales gigantescas con miles de millones de parámetros. El auténtico desafío consiste en que las herramientas que deben vigilar están aprendiendo a eludir los controles establecidos por sus propios creadores a medida que aumentan su nivel de sofisticación. El resultado es un panorama donde la humanidad fabrica dispositivos capaces de resolver problemas sumamente complejos, mientras intenta descifrar el funcionamiento interno de sus propias creaciones.
Por: Redacción de Noticia Digital (NoticiaDigital.com.mx)
