Ventana de contexto

Un modelo no conserva ninguna memoria entre una solicitud y otra. En cada mensaje, la aplicación reenvía toda la conversación y el modelo la relee desde el principio. Todo lo que cabe en la ventana le resulta visible; lo que se sale simplemente no existe para esa respuesta. La ventana se reparte entre lo que entra y lo que sale: una instrucción larga deja menos sitio para la respuesta, y muchos modelos fijan además un tope aparte para la longitud de cada respuesta. Las imágenes adjuntas, las definiciones de herramientas y las instrucciones ocultas también ocupan espacio. Piensa en un escritorio: uno pequeño te obliga a archivar carpetas, uno grande aguanta el caso entero.

Una ventana grande permite trabajar con material extenso: un contrato, varios capítulos de un manuscrito, la transcripción de una reunión o buena parte de un proyecto de código, sin trocearlos: un contrato de cuarenta páginas, una presentación trimestral de resultados, el borrador de una tesis, una hoja de cálculo exportada o un repositorio completo. Pero tiene un precio. Leer más tokens lleva más tiempo y, con los modelos de pago, cuesta más. Además, los modelos tratan de forma desigual las entradas larguísimas: un detalle enterrado en mitad de un texto inmenso a veces se les escapa, y una ventana grande no garantiza que cada línea se aproveche bien.

Cuando una conversación supera la ventana, la aplicación tiene que decidir. Puede descartar o acortar los mensajes más antiguos, sustituirlos por un resumen o pedirte que empieces de nuevo. Algunas conservan las instrucciones iniciales y los últimos intercambios, y condensan lo que hay entre medias. Otro enfoque es la búsqueda: en lugar de pegar una biblioteca entera, se consulta y solo se entregan al modelo los pasajes útiles para la pregunta. Trucos de arquitectura como la atención de ventana deslizante, las codificaciones de posición rotatorias y la caché de claves y valores permiten ampliar las ventanas a cientos de miles de posiciones, pero la memoria y la latencia siguen creciendo con la longitud del contexto.

Cada modelo de NeverNo tiene su propia ventana, indicada en su página. La mayor parte del catálogo ofrece 128 000 o 200 000 tokens, Claude Haiku 5.5 tiene 100 000 y Kimi K3, el modelo de razonamiento privado de Moonshot, tiene la mayor con 256 000 tokens. Es suficiente para meter un informe largo o un montón de documentos en una sola conversación y consultarlos en conjunto.

La página sobre la alternativa a ChatGPT recoge la misma idea para quien viene de otro asistente: trae un documento largo, conserva la conversación y elige el modelo cuya ventana se adapte al trabajo. Para colecciones demasiado voluminosas para cualquier ventana, la Caja fuerte guarda tus documentos cifrados en tu navegador y solo envía los pasajes que una pregunta necesita.