Imagina una conversación larga con un chatbot. Al empezar le pides que escriba siempre en tono formal y sin emojis. Cuarenta mensajes después, el tono se ha relajado y aparece el primer emoji. No es mala educación ni un fallo puntual: es cómo funcionan estos modelos.
TL;DR: un modelo de lenguaje solo «ve» una cantidad limitada de texto a la vez, que se mide en tokens y se llama ventana de contexto. Aunque esa ventana sea enorme, la atención del modelo no se reparte por igual: rinde mejor con lo que está al principio y al final, y peor con lo que queda en medio. Esta guía explica las dos ideas en lenguaje llano y termina con seis hábitos para que no se te escapen instrucciones importantes.
Qué es un token y cuánto texto cabe en uno
Un token es el trozo en el que el modelo corta el texto antes de procesarlo. Según la documentación de OpenAI, una palabra corta y común como «the» es un solo token, mientras que «tokenization» se parte en «token» e «ization». No es lo mismo que una palabra.
Las equivalencias oficiales son aproximadas y están calculadas para inglés:
- OpenAI: 1 token son unos 4 caracteres o unas tres cuartas partes de una palabra en inglés (0,75 palabras).
- Google: en los modelos Gemini, un token son unos 4 caracteres y 100 tokens equivalen a entre 60 y 80 palabras en inglés.
Las dos empresas precisan que la equivalencia vale para texto en inglés. Ninguna da una cifra para el español en estas páginas, así que conviene tomar esas equivalencias como orientación, no como regla.
Un detalle que casi nadie tiene en cuenta: los modelos de razonamiento gastan tokens «internos» antes de responder. OpenAI explica en su guía de razonamiento que esos reasoning tokens no son visibles, pero ocupan espacio en la ventana de contexto y se facturan como tokens de salida. Una respuesta corta puede haber consumido muchos más tokens de los que parece.
¿Qué es la ventana de contexto?
Es todo el texto que el modelo puede tener en cuenta al generar una respuesta, incluida la propia respuesta. La documentación de Anthropic la describe como una «memoria de trabajo», distinta de los datos con los que se entrenó el modelo. Google usa la misma analogía en su guía de contexto largo: la compara con la memoria a corto plazo de una persona.
En una conversación, todo se acumula ahí dentro: tus mensajes, las respuestas, los documentos que subes, las instrucciones del sistema. Cada turno nuevo arrastra los anteriores.
Las cifras, a octubre de 2026, son grandes. Según la documentación oficial consultada ese mes:
| Proveedor | Modelos | Ventana de contexto |
|---|---|---|
| OpenAI (API) | GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna | 1,05 millones de tokens (modelos) |
| Anthropic (API) | Claude Opus 5.5, Sonnet 5.5, Haiku 5.5 y otros | 1 millón; otros modelos, 200.000 (ventanas de contexto) |
| Google (API) | Gemini 4 Argon | 1.048.576 tokens compartidos entre entrada, razonamiento y salida (contexto largo) |
| Claude.ai (planes de pago, chat) | Opus 5.5, Sonnet 5.5, Haiku 5.5 | 1 millón; algunos modelos anteriores, 500.000; fuera de la tabla oficial, 200.000 tokens («unas 500 páginas de texto o más») |
Google pone un ejemplo de escala: un millón de tokens equivale a unas 50.000 líneas de código o a ocho novelas en inglés de extensión media.
Ojo con un matiz: esas cifras son de la API, la puerta de entrada para desarrolladores. En la aplicación de chat que usas cada día el límite puede ser otro, y depende del plan. Anthropic, por ejemplo, publica una tabla distinta para claude.ai según el modelo y el producto.
Si caben un millón de tokens, ¿por qué se olvida?
Por dos motivos distintos.
El primero es de capacidad. Cuando la conversación se acerca al límite, algo tiene que salir. Anthropic indica que interfaces como claude.ai pueden gestionar la ventana en modo «primero en entrar, primero en salir», y en los planes de pago con ejecución de código, Claude resume los mensajes antiguos para hacer sitio. Un resumen conserva la idea general, pero puede perder el detalle de una instrucción concreta que diste al principio.
El segundo es de atención, y ocurre aunque sobre espacio. Anthropic lo dice en su documentación técnica: a medida que crece el número de tokens, la precisión y la capacidad de recordar se degradan, un fenómeno que llama context rot. Y añade que más contexto «isn’t automatically better». Google, en su guía, reconoce que sus modelos rinden bien al buscar un único dato en un texto largo, pero que con varios datos a la vez «the model does not perform with the same accuracy».
El estudio que puso nombre a esto es «Lost in the Middle: How Language Models Use Long Contexts», de Nelson F. Liu y otros seis autores, publicado en arXiv en julio de 2023 y aceptado en la revista Transactions of the Association for Computational Linguistics. Probaron dos tareas: responder preguntas a partir de varios documentos y recuperar un valor dentro de una lista larga. Su hallazgo fue que el rendimiento «is often highest when relevant information occurs at the beginning or end of the input context, and significantly degrades when models must access relevant information in the middle of long contexts, even for explicitly long-context models».
Es decir, la curva tiene forma de U. Lo que dijiste al principio y lo último que has escrito se recuerdan mejor que lo que quedó enterrado en el medio. Y en una charla larga, tu instrucción inicial va quedando cada vez más en medio a medida que se acumulan mensajes.
El paper es de 2023 y los modelos han mejorado mucho desde entonces. Pero la documentación actual de Anthropic y Google sigue advirtiendo de la degradación en contextos largos, así que mi lectura es que el problema se ha atenuado, no resuelto.
Seis hábitos para que la IA no pierda el hilo
- Pon la pregunta al final. Es la recomendación literal de Google: con contextos largos, el modelo rinde mejor «if you put your query / question at the end of the prompt». Si pegas un documento, primero el documento y después lo que quieres saber.
- Repite las instrucciones críticas. Si una regla importa (tono, formato, idioma), recuérdala cada cierto número de mensajes. Es barato y la saca del medio.
- Abre un chat nuevo cuando cambies de tema. Un hilo que mezcla tres tareas llena la ventana de ruido. Empezar de cero con un resumen de lo importante suele funcionar mejor que seguir arrastrando todo.
- Pide un resumen antes de cerrar una sesión larga. Cópialo y pégalo al principio de la siguiente. Así controlas tú qué se conserva, en lugar de dejarlo a un resumen automático.
- No pegues más de lo necesario. Google lo dice sin rodeos: si no necesitas pasarle tokens al modelo, «it is best to avoid passing them». Recorta el documento a la sección relevante.
- Trabaja con fuentes acotadas. Herramientas que se centran en tus documentos, como las que permiten generar un resumen en audio con NotebookLM a partir de tus propias fuentes, reducen el riesgo de que la información clave se diluya en una conversación eterna.
Para estudiar o preparar trabajos largos, estas pautas encajan con las de la guía sobre cómo usar la IA para estudiar sin que estudie por ti.
La carrera por la ventana de contexto más grande se vende como si fuera memoria infinita, y no lo es. Un millón de tokens es un almacén enorme, pero la atención del modelo sigue sin repartirse igual por todo el almacén. Creo que el marketing de «cabe todo» ha hecho más daño que bien: invita a pegar documentos enteros y conversar durante horas, justo el uso en el que el modelo tiene más probabilidades de pasar por alto algo. La habilidad útil no es llenar la ventana, sino decidir qué entra en ella y dónde.
