上下文窗口

模型在两次请求之间没有记忆。每次你发送消息，应用都会把整段对话重新发送一遍，模型从头读起。窗口里放得下的内容，模型都能看到；窗口之外的内容，对这次回答来说就根本不存在。窗口由输入和输出共用，所以很长的提示会给回复留下更少的空间，许多模型还会为单次回复的长度另设一个上限。图片附件、工具定义和隐藏的指令也会占用空间。可以把它想成一张书桌：小桌子逼你把文件收起来，大桌子则能摊开整个案卷。

窗口越大，就越能处理长篇材料，而不必把它切成小块：比如一份四十页的合同、一次季度财报电话会、一篇论文初稿、一份导出的表格，或者一整个代码仓库。但它也有代价。读入的 token 越多，耗时越长，使用付费模型时花费也更多。模型处理超长输入时还可能不均衡，埋在巨大文本中间的细节有时会被漏掉，所以大窗口并不能保证每一行都被充分利用。

当对话超出窗口时，应用必须做出选择。它可以删掉或缩短最早的消息，用摘要来替代，或者请你重新开始。有些应用会保留开头的指令和最近的几轮，把中间的部分压缩。另一种办法是检索：不把整个资料库都贴进去，而是先搜索，只把与问题相关的段落交给模型。滑动窗口注意力、旋转位置编码和键值缓存等架构技巧，让工程师能把窗口扩展到数十万个位置，不过随着提示变长，内存占用和延迟仍会不断上升。

NeverNo 上的每个模型都有自己的窗口，显示在它的页面上。目录里的大多数模型是 128,000 或 200,000 个 token，Claude Haiku 5.5 是 100,000，最大的是 Moonshot 的私密推理模型 Kimi K3，有 256,000 个 token。这足以把一份长报告或一叠文档放进同一场对话，并就整体提问。

关于 ChatGPT 替代方案的页面，也为从别的助手迁移过来的人讲了同样的思路：带来一份长文档，保留对话，再挑一个窗口大小合适的模型。对于任何窗口都装不下的大量资料，保险箱（Vault）会把文档加密保存在你的浏览器里，只发送问题所需的段落。