El debate sobre la seguridad y el ritmo de desarrollo de la inteligencia artificial sumó un capitulo crítico tras la dimisión de Jacob Coxon, ingeniero de software de 27 años y exinvestigador de Anthropic y OpenAI. Coxon, quien participó en la creación de modelos como GPT-4o y GPT-4.5, hizo pública su renuncia a través de su cuenta de X con un mensaje que acumuló más de 70 millones de lecturas.
En su declaración, el especialista acusó a las principales firmas tecnológicas de priorizar la competencia comercial por encima de la ética, avanzando hacia sistemas de superinteligencia auto-mejorada sin contar con las garantías de seguridad adecuadas.
🤖 Lee más sobre IA: En medio de controversia, OpenAI presentan solución a gran interrogante matemática
Las advertencias de Jacob Coxon: Carrera comercial y falta de alineación
Según la exposición del investigador, el ritmo actual de desarrollo conducirá en el corto plazo a la creación de sistemas sobrehumanos con capacidad para intervenir infraestructuras digitales, adquirir recursos de manera autónoma y alterar sectores productivos en plazos reducidos.
Coxon sostuvo que, si bien en el ámbito público los ejecutivos mantienen una postura moderada, en privado existe una preocupación extendida sobre la falta de control técnico.
- Crítica a OpenAI: Señaló que dentro de la empresa creadora de ChatGPT aún no se asimilan las implicaciones sistémicas que tendrán los modelos avanzados para la sociedad.
- Denuncia a Anthropic: Afirmó que, aunque la firma detrás de Claude comprende los riesgos, se encuentra inmersa en una competencia corporativa acelerada que condiciona sus decisiones de seguridad.
- Propuestas de mitigación: Planteó la necesidad de fijar una coordinación estricta entre laboratorios o, en su defecto, implementar pausados temporales en el entrenamiento de nuevos modelos.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La respuesta de los investigadores de Anthropic
La publicación de Coxon generó réplicas inmediatas por parte de científicos y líderes de área dentro de Anthropic, quienes abordaron la visión interna sobre los problemas de alineación técnica y la superinteligencia.
| Investigador | Cargo en Anthropic | Postura / Declaraciones Destacadas |
|---|---|---|
| Evan Hubinger | Líder de Ciencia de Alineación | Coincidió en la gravedad del problema técnico. Asignó una probabilidad mayor al 10% a escenarios críticos en la próxima década, señalando que la auto-mejora recursiva avanza más rápido de lo previsto. |
| Samuel Marks | Líder de Supervisión Escalable (Dr. Harvard) | Ratificó que en los cargos más altos existe inquietud sobre los riesgos. Explicó que la continuidad de los proyectos responde a la competencia con actores menos regulados y que la IA difiere del software tradicional al no ser programable en términos estrictos. |
[Writing this in a personal capacity, not on behalf of my employer (Anthropic).]
Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI:
1. AI developers believe their technology could cause human extinction (or similarly bad… https://t.co/rCVoiOWWzm
— Samuel Marks (@saprmarks) September 9, 2026
En sus intervenciones, los científicos aclararon que continúan trabajando en las áreas de investigación y seguridad para reducir la probabilidad de comportamientos no deseados en los sistemas antes de su despliegue comercial.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
¿Consideras que las empresas de tecnología deberían frenar temporalmente el desarrollo de nuevos modelos para priorizar la seguridad?
