跳到主要内容

温度(temperature)

温度(temperature)是一项设置,用来控制语言模型挑选下一个 token 时的随机程度。数值低时,它几乎每次都选最可能的续写;数值高时,不太可能的词也有了真正被选中的机会。

更新于 2026年11月8日

  1. 只在你的设备上可读。

    对话只在你的设备上可读;开启同步后,其他设备上也可读。别处一概读不到。

  2. 我们读不了。

    消息只是经过,不会留下记录;你的对话始终只以加密形式保存。

  3. 模型不知道你是谁。

    它只收到问题,绝不会收到你的邮箱、账户或 IP 地址。

  4. 途中什么也不留下。

    回复传回后加密保存在这里;即使开启同步,你的密钥也从不以明文到达我们这里。

一段对话在 NeverNo 上的路径。详情见透明度页面。

工作原理

每一步,模型都会给词表里的每个 token 打分,再把分数变成概率。温度会在做出选择之前对这些分数重新缩放。接近零时,概率最高的 token 占据主导,输出几乎是确定的:同一个问题问两次,答案几乎一样。在 1 左右,模型按原始概率来抽样。再高一些,分布变得平缓,出人意料的词出现得更多,文字会变得有创意,然后变得语无伦次。可以想象一个抽奖滚筒:低温时里面只留下最重的球,高温时连最轻的球也会滚出来。

合适的数值取决于任务。条款提取、单元测试生成、SQL 辅助适合低值,因为一致性很重要,富有创意的岔路反而是缺陷。标语头脑风暴、睡前故事、反派的独白适合较高的值,因为多样性正是目的所在。不过,低温并不会让模型更诚实:模型可能以完美的一致性重复同一个错误答案。

与它搭配设置的,常常还有两个相关的控制项。top_p(核采样)只保留概率之和达到所选比例的最小一组 token,并从这一组里抽样。停止序列告诉模型在哪里结束回复。种子(seed)在服务商支持时,可以让随机选择变得可重复。常见的建议是调整温度或 top_p 其中之一,不要两个同时调。从数学上看,logits 会先除以温度,再由 softmax 函数归一化:除以小于 1 的数会让峰值更尖锐,除以大于 1 的数则会让分布变平,把概率分散到尾部。

在 NeverNo 中

在 NeverNo 上,API 的聊天请求接受 temperature、top_p、stop 和 seed。支持这些参数的模型会收到它们,其他模型则会略去。模型列表里写明了每个模型支持哪些参数,所以在依赖某个参数之前,请先查看列表。Qwen 3.5 35B 是阿里巴巴的免费私密模型,能看图,也能让你选择是否推理,它是目录里的开源模型之一。

关于无审查 AI 聊天的页面,介绍了 NeverNo 如何坦率回答,并把你的历史记录保存在浏览器里。不论你把温度设成多少,硬性界限都不会变:不涉及未成年人,不涉及未经同意的真实人物,也不为严重伤害他人提供实际帮助。

值得记住

  1. 温度改变的是下一个 token 选择的随机程度,而不是模型知道多少。

  2. 低值适合需要保持一致的任务,较高的值适合创意工作。

  3. 低温不能保证答案正确,只是让它更容易重复。

  4. top_p、停止序列和种子是近亲:温度和 top_p 只调其中一个。

  5. 有些推理模型会固定或忽略这项设置,所以先读一读模型支持的参数。

常见问题

温度应该设成多少?

对于事实类问题、代码和结构化输出,从低值开始,在 0 到 0.3 左右。对于写作和想点子,可以试试 0.7 到 1 之间的数值。这些只是起点,因为每个模型的反应略有不同。

温度为 0,每次答案都一样吗?

答案会非常一致,但不一定严格相同,因为浮点数舍入、GPU 批处理和服务器端调度,都可能让运算产生细微差异。如果模型支持种子,它有助于复现结果。

温度高会导致幻觉吗?

它会让不太可能的措辞更容易被选中,可能把模型带离可靠的依据。但模型在任何温度下都可能说出错误的内容,所以无论怎么设置,重要的事实都要核对。把每次输出所用的确切数值记录下来,实验就能复现,不同批次之间也能比较。

问出你的第一个问题

无需账户,无需银行卡。NeverNo 会 10 种语言,用哪种写都行。

打开聊天