开放权重模型

权重是模型在训练中调整的数值：数十亿个，保存在可能重达数 GB 的文件里。Llama、Qwen 和 DeepSeek 等系列，为它们的许多模型公开了权重。量化把这些数字压缩到更少的比特，以牺牲一点精度为代价，让模型能装进消费级显卡。用几千个示例做微调，相比从零开始训练是一种廉价的做法，通用模型就这样变成法律助手或编程帮手。有了权重和运行它们的代码，个人或公司就可以在自己的硬件上托管模型，为特殊任务微调它，或把它压缩后在较小的机器上运行。封闭的模型则一概做不到：它留在开发者的服务器上，只能通过开发者自己的界面访问，这意味着开发者能看到每一个请求。

开放权重和开源经常被混为一谈。严格意义上的开源要求更多：可以访问代码，了解数据的情况，并且有一份许可证，允许任何人使用、研究、修改和分享这件作品。许多开放权重模型附带的许可证会增加一些条件，比如针对商业使用或特别大规模的部署，而训练数据通常不公开。不要想当然，请阅读你打算基于其开发的模型的许可证。

实际的效果是主机之间的竞争。因为同一份权重可以由多家公司提供服务，用户或应用就能选择请求发往哪里，比较速度和价格，挑选一个保留政策合乎自己要求的主机。取舍也是真实存在的：大模型需要像样的硬件，光有权重并不能说明模型是用什么训练的，而且任何人都可以微调它们，所以基于同一份权重的两个模型，行为可能大不相同：社区微调的版本可能更简洁、更谨慎、专精代码，或者专门为翻译调优。基准测试有帮助，也会误导：排行榜名次奖励的是特定的测试形式，所以在你自己的文档上做个简短的试用，比一个公布的分数更能说明问题。

Mistral Small 3.2 是 Mistral 的开源模型，NeverNo 把它放进了免费套餐。它被标注为私密：请求发往我们因其不保留数据而选定的服务商，账户信息不会随消息传出，你的对话加密保存在浏览器里，正如关于私密 AI 的页面所说明的。它能看图，上下文最多 128,000 个 token，一次回复最多写 4,096 个 token，回复前从不推理，所以会立刻作答。

在 NeverNo 上，私密的含义正是如此：一个开源模型，由不保留请求的 DeepInfra 提供，或由启用零保留选项的 OpenRouter 提供。目录里有好几个这样的模型，从 DeepSeek、GLM、Qwen、Mistral 到 NeverNo Uncensored。这个标注依据的是这些服务商的承诺，而 NeverNo 在透明度页面上明确说明，它无法检查它们的服务器。