Fenêtre de contexte

Un modèle n’a aucune mémoire entre deux requêtes. À chaque message, l’application renvoie toute la conversation et le modèle la relit depuis le début. Tout ce qui tient dans la fenêtre lui est visible ; ce qui dépasse n’existe tout simplement pas pour cette réponse. La fenêtre est partagée entre ce qui entre et ce qui sort : une longue consigne laisse moins de place à la réponse, et beaucoup de modèles fixent en plus un plafond distinct pour la longueur d’une réponse. Images jointes, définitions d’outils et consignes cachées occupent aussi de la place. Pense à un bureau : un petit oblige à classer les dossiers, un grand porte l’affaire entière.

Une grande fenêtre permet de travailler sur de la matière longue : un contrat, plusieurs chapitres d’un manuscrit, la transcription d’une réunion ou une bonne partie d’un projet de code, sans les découper. Elle a pourtant un prix. Lire plus de jetons prend plus de temps et, avec les modèles payants, coûte davantage. Les modèles traitent aussi les entrées très longues de façon inégale : un détail enfoui au milieu d’un immense texte est parfois manqué, et une grande fenêtre ne garantit pas que chaque ligne soit bien exploitée.

Quand une conversation dépasse la fenêtre, l’application doit trancher. Elle peut écarter ou raccourcir les plus anciens messages, les remplacer par un résumé ou te demander de recommencer. Certaines gardent les consignes d’ouverture et les derniers échanges, et condensent ce qui se trouve entre les deux. Une autre approche est la recherche : au lieu de coller toute une bibliothèque, on l’interroge et on ne donne au modèle que les passages utiles à la question. Des astuces d’architecture comme l’attention à fenêtre glissante, les encodages de position rotatifs et la mise en cache des clés et valeurs permettent d’étendre les fenêtres à des centaines de milliers de positions, mais la mémoire et la latence augmentent encore avec la longueur du contexte.

Chaque modèle de NeverNo a sa propre fenêtre, indiquée sur sa page. La plupart du catalogue offre 128 000 ou 200 000 jetons, Claude Haiku 5.5 en a 100 000, et Kimi K3, le modèle de raisonnement privé de Moonshot, a la plus grande avec 256 000 jetons. C’est assez pour mettre un long rapport ou une pile de documents dans une seule conversation et les interroger dans leur ensemble.

La page sur l’alternative à ChatGPT décrit la même idée pour ceux qui quittent un autre assistant : apporte un long document, garde la conversation et choisis le modèle dont la fenêtre convient au travail. Pour les collections trop volumineuses pour n’importe quelle fenêtre, le coffre privé garde tes documents chiffrés dans ton navigateur et n’envoie que les passages dont une question a besoin.