跳到主要内容

top-p

top-p,也叫核采样,是一项设置:它把语言模型限定在概率之和达到所选比例的、最可能的最小一组 token 里,然后只从这一组中挑选下一个 token。设为 0.9 时,模型会忽略掉占最后十分之一概率的那条不太可能的长尾。

更新于 2026年11月8日

  1. 只在你的设备上可读。

    对话只在你的设备上可读;开启同步后,其他设备上也可读。别处一概读不到。

  2. 我们读不了。

    消息只是经过,不会留下记录;你的对话始终只以加密形式保存。

  3. 模型不知道你是谁。

    它只收到问题,绝不会收到你的邮箱、账户或 IP 地址。

  4. 途中什么也不留下。

    回复传回后加密保存在这里;即使开启同步,你的密钥也从不以明文到达我们这里。

一段对话在 NeverNo 上的路径。详情见透明度页面。

工作原理

给词表打完分之后,模型手里有每一个可能的下一个 token 的概率。top-p 把它们按可能性从高到低排序,从最上面开始往下累加,直到总和达到 p,然后丢弃这条线以下的一切。留下的 token 会被重新缩放,使它们的概率之和为一,选择就在它们之中进行。这一组的大小不是固定的:当模型很有把握时,一个 token 就可能已经超过阈值;而当许多续写都合理时,这一组会扩大到包含几十个。这种自适应的特点,正是 top-p 与 top-k 并列流行的原因,top-k 是一种更简单的截断,不论情况如何,总是保留同样数量的候选。

可以把它想成餐厅的菜单:只列出客人点得最多的菜,直到它们占到十份订单里的九份。在有明确热门菜的清静夜晚,菜单很短;在口味各异的忙碌夜晚,菜单就很长。top-p 为 1,保留所有 token,所以没有任何改变;接近 0.1 的值,几乎只保留最好的选择,使输出接近确定。对于对话和写作,常见取值在 0.8 到 1 之间,调低这个数字,可以修剪那些会让文字跑偏的罕见而古怪的词。许多聊天界面隐藏了这个控制项,但当助手听起来重复或者跑题时,它依然是一个好用的调节杆。

top-p 与温度作用在同一阶段,两者会相互影响。温度先重塑概率,然后 top-p 再截掉重塑后分布的尾部。因此大多数指南建议改其中一个,另一个保持默认,这样你才能知道是哪一个造成了差别。这两项设置都不会让回答更真实:它们只是塑造措辞的大胆程度。有些推理模型会固定或忽略这些参数,各服务商开放的采样控制也不尽相同,所以最终以模型自己的文档为准。

在 NeverNo 中

在 NeverNo 上,API 的聊天请求接受 top_p,与 temperature、stop 和 seed 并列。支持这些参数的模型会收到它们,其他模型则会略去。模型列表显示了每个模型支持哪些参数,所以在依赖某个参数之前,请先查看。Qwen 3.5 35B 是阿里巴巴的免费私密模型,能看图,也让你选择是否推理,它是目录里的开源模型之一。

关于无审查 AI 聊天的页面,展示了 NeverNo 如何在把历史记录保存在浏览器里的同时坦率回答。采样设置改变的是回答的风格,永远不会改变硬性界限:不涉及未成年人,不涉及未经同意的真实人物,也不为严重伤害他人提供实际帮助。

值得记住

  1. top-p 保留概率之和达到所选总量的最小一组 token,只从这一组里采样。

  2. 这一组的大小会自适应:模型有把握时更小,许多词都合适时更大。

  3. 取值为 1 就是关闭截断;较低的值让措辞更稳妥、更可预测。

  4. top-p 和温度只改其中一个,不要同时改,这样才看得出各自的作用。

常见问题

top-p 取多少合适?

对于大多数聊天和写作,0.9 到 1 是稳妥的默认值。对于代码、数据提取和其他需要输出稳定的工作,可以试试 0.1 到 0.5。任何数字都只是起点,因为每个模型的反应略有不同。

top-p 和 top-k 有什么区别?

top-k 总是保留固定数量、最可能的 token,比如 40 个。top-p 则保留达到概率总量所需的任意多个,所以模型有把握时这一组会缩小,没有把握时会变大。

top-p 和温度可以一起用吗?

可以,它们依次起作用,先是温度。由于两者的效果有重叠,改变其中一个、让另一个保持默认值,再用同样的提示词比较结果,会更容易。

问出你的第一个问题

无需账户,无需银行卡。NeverNo 会 10 种语言,用哪种写都行。

打开聊天