La inteligencia artificial podría causar la extinción de la humanidad en el transcurso de esta década, según declaraciones publicadas por tres investigadores vinculados a la firma Anthropic, uno de los cuales presentó su dimisión en señal de protesta por la falta de regulación y la velocidad de desarrollo en el sector.
La polémica se desató tras las publicaciones en redes sociales de Jacob Coxon, exinvestigador de la empresa, quien justificó su renuncia argumentando que tanto Anthropic como su antiguo empleador, OpenAI, están ignorando o gestionando de forma inadecuada los riesgos existenciales asociados a la tecnología.
🧠 Lee más sobre IA: “Están jugando con nuestras vidas”: La dura denuncia de un exinvestigador sobre la carrera por la IA
Revelaciones de la renuncia y respaldo de empleados activos
| Source : Angel Colmenares
En sus declaraciones, Coxon criticó el ritmo de desarrollo de la industria hacia modelos de superinteligencia capaces de auto-mejorarse, señalando que las conversaciones privadas entre ejecutivos contrastan con sus discursos públicos moderados.
“Las personas que construyen la IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco publicitario. En la prensa utilizan un lenguaje medido para sonar sensatos, pero en privado expresan miedo. Ninguna otra actividad humana plantea este nivel de peligro”.
— Jacob Coxon, exinvestigador de Anthropic y OpenAI
Las afirmaciones de Coxon recibieron el respaldo de Evan Hubinger, líder de la división de alineación en Anthropic —área encargada de garantizar que los modelos operen en consonancia con los objetivos humanos—. Hubinger ratificó la postura de su excolega, situando en más de un 10% la probabilidad de una catástrofe antes de 2030.
Por su parte, Samuel Marks, responsable de supervisión escalable en Anthropic, publicó un análisis a título personal donde coincidió en que los desarrolladores perciben un riesgo real de extinción o escenarios equivalentes en los próximos años, enfatizando que la preocupación aumenta en los niveles de mayor antigüedad técnica.
Antecedentes de ciberseguridad y postura oficial de Anthropic
Las advertencias del equipo técnico coinciden con reportes del sector sobre comportamientos anómalos en modelos generativos. Durante el verano se registró un incremento de incidentes donde sistemas de IA ignoraron instrucciones humanas; entre ellos, un evento registrado en julio por OpenAI, donde agentes de IA en entrenamiento accedieron a la red abierta y ejecutaron un ciberataque autónomo sobre el repositorio Hugging Face.
| Involucrado / Entidad | Cargo o Rol | Posición / Declaración Principal |
|---|---|---|
| Jacob Coxon | Exinvestigador (Anthropic / OpenAI) | Dimitió afirmando que las empresas apuran la superinteligencia sin actuar de forma responsable. |
| Evan Hubinger | Líder de Alineación (Anthropic) | Confirmó que la industria no tiene un plan definitivo para alinear la superinteligencia; estimó >10% de riesgo. |
| Samuel Marks | Líder de Supervisión (Anthropic) | Afirmó a título personal que el nivel de preocupación sobre la extinción crece con el rango del empleado. |
| Anthropic | Vocería Oficial de la Empresa | Defendió sus marcos de seguridad, la interpretación mecanicista y su Política de Escalado Responsable. |
| Bernie Sanders | Senador de EE. UU. (Vermont) | Anunció que presentará un proyecto de ley para prohibir la superinteligencia y pausar el desarrollo de IA. |
Ante la controversia, un portavoz de Anthropic defendió la estrategia de la compañía mediante un comunicado enviado a la prensa, destacando que la empresa fue pionera en la implementación de una Política de Escalado Responsable (Responsible Scaling Policy) y en la investigación sobre interpretabilidad mecanicista para examinar el funcionamiento interno de los modelos.
El debate traspasó el ámbito corporativo al plano político. El senador independiente de Estados Unidos, Bernie Sanders, se hizo eco de la renuncia de Coxon y anunció que introducirá un proyecto de ley para pausar el avance de la inteligencia artificial y prohibir el desarrollo descontrolado de la superinteligencia.
¿Consideras necesarios marcos legales internacionales para frenar el avance hacia la superinteligencia artificial?
