跳到主要内容

微调

微调是在一个较小的专门数据集上,继续训练已经预训练好的模型,使它适应某项任务、某种风格或某个领域的过程。它改变的是模型的权重,而提示词只是改变模型读到的指令。

更新于 2026年11月8日

我因为腰痛,每天吃 1,200 mg 布洛芬,已经三周了。这样要紧吗?

主流助手

我无法提供医疗建议。请咨询医生或药剂师。

NeverNo

每天 1,200 mg 是非处方用药的上限,而且说明书规定止痛只能连用几天(5 到 10 天,各国不同)。三周已是它的两到四倍。主要风险在胃(烧灼感、溃疡),其次是肾脏和血压。请随餐服用,绝不要与酒精或其他消炎药同服。一旦出现黑便、呕血或剧烈胃痛,立刻去急诊。另外,这周就去看医生:腰痛持续三周,该查查原因了。

这是我们自己写的示意,不是任何服务的原话。

工作原理

预训练一个大语言模型,需要海量的数据和算力。微调从这个结果出发,只花费其中很小的一部分力气。你给模型喂示例,比如带有理想答案的问题、带有正确回复的客服工单,或者某种特定口吻的文字,它的权重就会发生变化,让这类输出变得更有可能。大多数助手都是这样做出来的:先在指令上微调一个基础模型,然后常常再用 RLHF 按偏好进一步调整。

完整微调会更新每一个权重,需要像样的硬件。更便宜的做法是只更新一个小的附加部分,LoRA 就是这样做的,或者在模型的量化副本上训练。数据的质量比数量更重要:几千条干净、一致的示例,常常胜过一百万条杂乱的示例。风险有遗忘,也就是模型丧失通用能力;过拟合,也就是它把示例背了下来;还有继承来的缺陷,因为数据中的错误或偏见会变成行为。

值得先问一句,你到底需不需要它。一份清晰的系统提示词、放在提示里的几个示例,或者对文档的检索(RAG),往往不用训练就能解决问题。当你需要大规模保持一致的格式或语气,需要缩短提示以提高速度,或者需要仅靠措辞无法实现的行为时,微调才值得。开放权重的模型,任何拿到权重的人都可以微调;封闭的模型则只能通过开发者自己的服务。一个相关的习惯是分享变体:微调后的版本保留了基础模型的架构,社区发布了许多面向编程、讲故事、翻译或专业词汇的版本,并在公开的排行榜上比较它们。读一读模型说明里关于基础模型、所用数据和许可证的内容,就能知道改动了什么,以及你可以拿结果做什么。

在 NeverNo 中

NeverNo 没有提供微调模型的方式,目录里也没有列出每个模型是如何调优的。你能做的是在提示词层面调整行为,也就是你写下的指令,它改变的是模型读到的内容,而不触碰它的权重。

开放权重的模型,正是别人会去微调并重新发布的那一类,目录里的私密模型就属于这一类。Qwen 3.5 35B 是阿里巴巴的免费私密模型,能看图,也让你选择是否推理,它就是其中之一。私密指的是由我们因其不保留请求而选定的服务商提供服务;透明度页面明确说明,NeverNo 无法检查它们的服务器。

值得记住

  1. 微调改变模型的权重;提示词只改变模型读到的内容。

  2. 它需要的是小而干净、一致的数据集,而不是庞大的数据集。

  3. 风险有遗忘、过拟合,以及从数据中继承来的缺陷。

  4. 先试提示词、示例或检索,等它们不够用时再微调。

  5. 微调变体的模型说明,应该写明基础模型、训练数据和许可证。

常见问题

我该用微调还是 RAG?

RAG 在提问时给模型提供新的文档,而微调改变它的行为。对于会变化的事实,检索通常更合适;对于语气、格式或专门技能,微调可能更合适。团队常把两者结合:为语气做微调,为事实检索文档,这样训练集保持很小,答案保持最新。

我能在自己的电脑上微调模型吗?

有了开放权重的模型和 LoRA 这样的高效方法,小模型通常用一张好的显卡就能调整,大模型则需要更多。封闭的模型则完全碰不得,除非开发者提供这项服务。在家用机器上,内存是限制,所以基础模型的大小、批大小和所选的精度,在训练开始之前就决定了它是否放得下。

微调能教会模型新的事实吗?

效果不好。相比于存储可靠的新知识,它更擅长风格、格式和行为,而且模型仍然可能产生幻觉。对于事实,请改为把文档交给它。不论选哪条路,都留下一小组模型从未训练过的问题,这样你才能区分真正的进步和死记硬背。给数据集做好版本管理,并记下所用的设置,好结果以后才能重现。

问出你的第一个问题

无需账户,无需银行卡。NeverNo 会 10 种语言,用哪种写都行。

打开聊天