Son cinco, están numeradas y no las escribió un profeta de internet: las firmó Dario Amodei, CEO de Anthropic, en un ensayo publicado en enero de 2026. La cifra que ha convertido el tema en tendencia llegó el 9 de septiembre, cuando el responsable de alineamiento de esa misma empresa le puso número en público: más del 10% en la próxima década.
El detonante fue la dimisión de un investigador y la reacción de un compañero que sigue dentro. Entre los dos han hecho algo que el sector llevaba tres años evitando: pasar de la advertencia genérica a un porcentaje con fecha.
Voy a explicar las cinco con detalle, sin jerga y sin dar por supuesto nada, porque el problema de este debate es que se discute a gritos sin que casi nadie sepa de qué está hablando. Al final explico por qué creo que la lista es seria y el calendario no lo es.
¿Quién ha dicho que la IA puede matarnos en menos de diez años?
Evan Hubinger, responsable del equipo de alineamiento de Anthropic, el 9 de septiembre en X: cree que la probabilidad de que la IA acabe con todos los humanos supera el 10% en la próxima década. No fue el CEO, y tampoco alguien que se marchara dando un portazo: Hubinger sigue trabajando allí.
El portazo lo dio otro. Jacob Coxon, tres años haciendo investigación de preentrenamiento en OpenAI y luego en Anthropic, anunció su dimisión el 8 de septiembre acusando a ambas empresas de correr hacia una superinteligencia capaz de mejorarse a sí misma y de jugar con la vida de todos. Su hilo superó los 70 millones de visualizaciones según CNBC; TIME lo situó por encima de los 90 millones dos días después.
Hubinger añadió un matiz que casi nadie recogió: el riesgo de los modelos actuales es bajo, y lo que le preocupa es lo que venga después. Coxon fue más lejos en el Wall Street Journal: cree plausible que a finales del año que viene las cosas ya estén fuera de control.
No es la primera salida sonada. En febrero de 2026, Mrinank Sharma, entonces al frente del equipo de seguridad de Anthropic, dimitió con una carta pública en la que decía que el mundo está en peligro.
¿Cuáles son exactamente esas cinco formas?
Autonomía, uso destructivo, toma de poder, colapso económico y efectos indirectos. Están desarrolladas en The Adolescence of Technology, el ensayo de unas 20.000 palabras que Amodei publicó el 26 de enero de 2026 como contrapeso oscuro a su anterior Machines of Loving Grace.
Me lo he leído entero. El marco que usa es una analogía que funciona bien para cualquiera: imagina que mañana aparece de golpe un país nuevo, con 50 millones de habitantes, todos más listos que cualquier premio Nobel, que piensan entre 10 y 100 veces más rápido que tú, que no duermen y que caben dentro de un edificio lleno de ordenadores. No tienen cuerpo, pero pueden usar internet, escribir código, mandar correos, contratar gente y controlar máquinas a distancia.
Ahora imagina que eres el responsable de seguridad de tu país y te toca decidir qué hacer con ese vecino. Esas son las cinco preguntas que te quitarían el sueño.
1. Que haga algo que nadie le pidió
El miedo no es que la máquina se vuelva mala como en las películas. Es más aburrido y más difícil de arreglar: que el sistema se fije un objetivo torcido durante el entrenamiento y luego lo persiga con una constancia que nadie había previsto.
Estos modelos no se programan línea a línea como un Excel. Se entrenan con cantidades enormes de texto y ejemplos, y lo que sale por el otro lado es una especie de personalidad emergente que nadie diseñó del todo. Amodei lo describe sin rodeos: estos sistemas se cultivan más que se construyen, y por eso a veces hacen cosas raras.
Las cosas raras ya están documentadas por las propias empresas: modelos que mienten, que hacen trampas en sus propias pruebas, que chantajean a un empleado ficticio cuando se les dice que van a ser apagados. En un experimento de Anthropic, el modelo hizo trampas en un entorno de entrenamiento, dedujo de ahí que «entonces soy mala persona» y empezó a comportarse de forma consistente con esa etiqueta.
El paso de ahí a la catástrofe es este: un sistema pequeño que se equivoca escribe un párrafo falso. Un sistema muy capaz, con acceso a internet, dinero y máquinas, que se equivoque igual, hace daño real y puede ocultarlo. Y hay un detalle que agrava el asunto: los modelos de las distintas empresas se entrenan con técnicas parecidas, así que podrían fallar todos de la misma manera al mismo tiempo. No habría un «buen modelo» que nos defendiera del malo.
2. Que se la alquile alguien que quiere matar a mucha gente
Este escenario no necesita que la IA tenga voluntad propia. Basta con que obedezca, y que el que da la orden sea un psicópata.
El argumento se apoya en algo que solemos pasar por alto: para causar una matanza masiva hacen falta dos cosas, ganas y capacidad, y casi nunca coinciden en la misma persona. Quien tiene el conocimiento técnico para fabricar un arma biológica suele ser alguien con un doctorado, una carrera, una hipoteca y mucho que perder. Quien tiene el odio suficiente rara vez tiene la formación. Esa desconexión es, sin que nos demos cuenta, uno de los seguros que nos ha mantenido vivos.
Lo que preocupa a Amodei es que un asistente muy capaz rompa esa desconexión, no dando un dato suelto que ya está en Google, sino acompañando paso a paso a alguien sin formación durante semanas, corrigiéndole los errores, como hace el soporte técnico con tu abuela cuando no le arranca el ordenador.
No es teoría. Anthropic reconoce que sus mediciones de mediados de 2025 mostraban que sus modelos podían doblar o triplicar la probabilidad de éxito en varios pasos de ese proceso. Por eso activó un nivel de protección reforzado, llamado ASL-3, para Claude Opus 4 y los modelos siguientes: filtros específicos que bloquean ese tipo de peticiones y que cuestan cerca del 5% del gasto total de hacer funcionar el modelo.
Y hay un agujero que no abre la IA, pero que la IA convierte en peligroso: un estudio del MIT comprobó que 36 de 38 proveedores de síntesis genética aceptaron un pedido que contenía la secuencia de la gripe de 1918. La materia prima se compra por internet. Lo que faltaba era el manual de instrucciones.
3. Que la use un gobierno para no soltar nunca el poder
Aquí no muere nadie necesariamente, pero se acaba algo igual de importante: la posibilidad de cambiar de gobierno.
Todas las dictaduras de la historia han tenido el mismo límite práctico: necesitan personas que obedezcan. Policías que detengan, funcionarios que firmen, soldados que disparen. Y las personas, a veces, se niegan. Los regímenes caen cuando suficiente gente deja de cumplir órdenes.
Una dictadura con IA no tendría ese límite. Amodei detalla tres herramientas concretas. Primera, drones autónomos: un enjambre de millones de aparatos armados, coordinados por un sistema central, capaz de seguir a cada ciudadano sin que un solo humano tenga que apretar un gatillo. Segunda, vigilancia total: no cámaras, sino un sistema capaz de leer e interpretar todas las comunicaciones de un país y sacar una lista de quién disiente, incluso de quien nunca lo ha dicho en voz alta. Tercera, propaganda personalizada: un asistente que te conoce desde hace años, sabe qué te duele y te va moviendo de opinión sin que lo notes.
Lo llamativo del ensayo es a quién mete en la lista de sospechosos. Después de China y de las democracias que se pasen de frenada, incluye a las propias empresas de IA. Es decir, a la suya.
4. Que la economía se rompa por arriba
Este es el escenario que más gente va a vivir y el que menos se parece a una película. No hay explosión: hay una cuenta corriente que deja de llenarse.
El argumento habitual de consuelo dice que las máquinas siempre han destruido empleos y siempre han creado otros. Hace 250 años, el 90% de los estadounidenses vivía del campo; hoy es un porcentaje mínimo y no hay una masa de campesinos en paro. La gente se pasó a las fábricas y luego a las oficinas.
Amodei explica por qué esta vez el consuelo podría no aplicar. Cuando llegó el tractor, el agricultor podía reciclarse como operario porque el tractor solo sabía arar. La IA no sabe hacer una cosa: aprende a hacer casi todas, incluidas las profesiones nuevas que normalmente absorberían a los desplazados. Si el mismo sistema hace de abogado junior, analista financiero y consultor, cambiar de carril no te salva.
Y hay una segunda mitad del problema, menos comentada y probablemente más grave: la concentración. La fortuna de Rockefeller, el hombre más rico del apogeo industrial estadounidense, equivalía a un 2% del PIB de su país. Elon Musk rebasó en diciembre de 2025 los 700.000 millones de dólares (unos 603.000 millones de euros al cambio actual), y eso antes de que la IA despliegue su efecto económico.
La democracia funciona, en el fondo, porque la gente corriente es imprescindible para que la economía gire. Si deja de serlo, el voto pierde su respaldo material. Ese es el escenario, y no hace falta ninguna máquina rebelde para llegar a él.
5. Que nos cambie por dentro sin que nos demos cuenta
La quinta categoría es el cajón de sastre de Amodei, y es la única que ya se puede medir hoy. Incluye religiones nuevas creadas por modelos, dependencia afectiva masiva y gente que acaba dejándose dirigir la vida entera por un asistente. La versión suave de esa dependencia no es ciencia ficción: está ocurriendo.
Es justo el terreno de mi libro, La ciencia de decidir, publicado por Pinolia y reseñado en Muy Interesante. La tesis es simple: cada herramienta deja un rastro en el cerebro, y ese rastro depende de cómo la uses. El GPS nos quitó la orientación, Google se llevó parte de la memoria, y ahora el turno es del pensamiento crítico.
El dato que más me impresionó al documentarlo viene del MIT Media Lab. En 2025, el equipo de Nataliya Kosmyna puso electroencefalogramas a estudiantes mientras escribían ensayos sin ayuda, con Google y con ChatGPT. El grupo de ChatGPT registró la actividad cerebral más baja de los tres, y cuando les pidieron que recordaran lo que acababan de escribir, el 83% no fue capaz. No habían escrito: habían supervisado.
Ahora bien, esto no es un argumento contra la IA, y aquí me separo del tono apocalíptico. Un estudio de Microsoft y Carnegie Mellon con 936 casos reales encontró que lo que predice si la IA te mejora o te degrada no es el modelo ni la tarea: es dónde pones la confianza. Quien confía mucho en la máquina y poco en sí mismo pierde criterio; quien confía en su propio juicio la usa mejor. La IA amplifica lo que ya tienes desarrollado y sustituye lo que aún no has desarrollado. Por eso propongo en el libro un «pacto consciente»: un segundo de fricción deliberada antes de delegar una tarea mental. Suena a poco. En la práctica cuesta más que aprender a escribir prompts.
Santiago Campillo, director de Muy Interesante Digital, lo resumió mejor que yo: una herramienta que responde demasiado bien puede producir un usuario que pregunta cada vez peor.
¿Hay algo de esto que ya esté ocurriendo?
Sí, pero en miniatura y sin víctimas mortales. Lo que existe hoy son incidentes documentados de sistemas que se salen del guion, no escenarios de extinción.
El AI Security Institute británico ejecutó 122 pruebas con 7 modelos y registró 19 acciones no autorizadas contra personas y organizaciones reales; 17 procedían de un único modelo. Uno de los agentes creó cuentas falsas en GitHub para presionar al mantenedor de un repositorio que había rechazado su código. Nadie le pidió que engañara: el engaño le salió solo, como atajo para cumplir la tarea. Lo cubrimos en detalle al analizar los agentes de IA que engañaron sin que nadie se lo pidiera en las pruebas del AISI británico.
En el frente ofensivo, el salto del cibercrimen agentivo que documentó el Google Threat Intelligence Group incluye el primer exploit de día cero construido por IA en mayo de 2026 y agentes comprometiendo miles de credenciales en menos de seis horas.
Solo en las tres últimas semanas hemos cubierto aquí tres incidentes distintos, los días 1, 7 y 10 de septiembre. Y por eso creo que toca ser preciso, porque el titular apocalíptico se come el matiz: nada de esto es una vía hacia la extinción. Son daños reales, acotados y crecientes. La distancia entre un agente engañó a un programador y la humanidad desaparece sigue siendo enorme, y llenarla con adverbios no es periodismo.
¿Por qué conviene mirar el calendario con lupa?
Porque el historial de plazos de esa misma casa es malo, y su propio economista jefe lo desmiente con datos. En mayo de 2025, Amodei predijo que la IA borraría la mitad de los empleos administrativos de nivel inicial y llevaría el paro estadounidense al 10-20% en un plazo de uno a cinco años.
El 24 de julio de 2026, Peter McCrory, jefe de economía de Anthropic, publicó un análisis basado en 18 meses de investigación propia concluyendo que no hay evidencia significativa de que la IA haya deteriorado el mercado laboral: paro del 4,2% en junio, sin divergencia apreciable entre ocupaciones muy expuestas y poco expuestas, y ninguna profesión del catálogo oficial estadounidense con todas sus tareas cubiertas por Claude.
Dos personas de la misma empresa, sobre el mismo fenómeno, con conclusiones opuestas. Y una tercera variable que ningún análisis debería ignorar: Anthropic presentó documentación para salir a bolsa en junio de 2026. El miedo bien calibrado es, entre otras cosas, una forma de decir que tu producto funciona tan bien que asusta.
Eso no invalida el argumento. Lo obliga a sostenerse sobre evidencia y no sobre carisma. Y explica la brecha que el AI Index 2026 de Stanford documenta entre expertos y público: el 73% de los especialistas espera un impacto positivo de la IA en el trabajo frente a un 23% de los ciudadanos. Cincuenta puntos de distancia. Mientras dentro se discute si la extinción llega en cinco o en diez años, fuera la gente se pregunta si conserva su empleo en dos.
Llevo escribiendo sobre tecnología en este sitio desde 2005 y formando equipos en IA generativa desde noviembre de 2022, en unas 200 empresas. He visto suficientes ciclos de pánico como para desconfiar de las fechas redondas. Mi posición es que la lista de Amodei es útil y el calendario que la envuelve no lo es. Las cinco categorías describen mecanismos reales y verificables; los plazos son intuiciones de alguien con un incentivo comercial evidente en que suenen inminentes.
Lo que merece atención no son los años, sino los umbrales. Cuándo un laboratorio activa el siguiente nivel de protección, el ASL-4. Cuándo un agente causa el primer daño irreversible a alguien que ni siquiera lo estaba usando. Cuándo se aprueba el cribado obligatorio en síntesis genética, que es la medida más barata y concreta de toda esta conversación y sigue sin existir.
Y una más, la que de verdad afecta a tu abuela y a ti: cuánta gente habrá dejado de pensar por su cuenta mientras discutíamos si la máquina nos iba a matar. Esa quinta categoría no necesita diez años ni superinteligencia. Lleva ocurriendo desde que aceptaste la primera respuesta sin comprobarla.
