RAG(检索增强生成)
检索增强生成(RAG)是一种技术:先从文档集合中检索出与问题最相关的段落,再把它们交给语言模型,让模型依据这些内容写出答案。它让模型能够处理自己从未训练过、或者大到无法整篇粘贴的资料。
更新于 2026年11月8日
只在你的设备上可读。
对话只在你的设备上可读;开启同步后,其他设备上也可读。别处一概读不到。
我们读不了。
消息只是经过,不会留下记录;你的对话始终只以加密形式保存。
模型不知道你是谁。
它只收到问题,绝不会收到你的邮箱、账户或 IP 地址。
途中什么也不留下。
回复传回后加密保存在这里;即使开启同步,你的密钥也从不以明文到达我们这里。
工作原理
RAG 系统分为两个阶段。第一阶段是建立索引:把每份文档切成段落,并把每个段落变成一个嵌入,也就是一串能捕捉其含义的数字。主题相近的段落,向量也相近。第二阶段发生在提问的时候:用同样的方式把问题变成向量,通过比较向量找到最接近的段落,再把这些段落和问题一起加进提示里。模型随后利用它们来回答。
这种方法解决了普通模型的两个限制。一是它读不到没有训练过的内容,比如你的课堂笔记、供应商合同、产品手册,或者上周的更新日志;二是它的上下文窗口是有限的。检索只带入需要的部分,所以即使资料库比窗口大得多,也依然可以向它提问。它还为答案提供了依据:模型可以引用它所用的段落,这样幻觉就更容易被发现。
答案的质量取决于检索的质量。如果没有找到正确的段落,模型就没有可以引用的东西,可能转而靠猜测。段落的大小也很关键:从句子中间截断的片段会失去意义,而整章大小的块又浪费空间。扫描页、表格和脚注是常见的绊脚石。所以,读 RAG 的答案时,最好把被引用的段落放在眼前。典型的组成部分有嵌入模型、向量索引、重排序器、分块规则和提示模板;典型的用途有客服机器人、法律检索、学习辅助和内部知识库。混合方案会把语义向量与 BM25 等传统关键词评分结合起来,再用交叉编码器对候选结果重新排序,因为精确的产品编号、姓氏和错误代码,靠字面匹配比单靠含义更准。
在 NeverNo 中
NeverNo 的保险箱(Vault)就是围绕你的隐私构建的 RAG。你添加的文档,无论是 PDF、Word、Markdown、文本还是代码,都保存在你浏览器里名为 neverno 的 IndexedDB 数据库中,并用与对话相同的密钥加密。每份文档会被切成约 800 个 token 的段落,每个段落得到一个由 1,024 个数字组成的向量。这个向量由 DeepInfra 上的一个私密模型计算一次,而搜索本身则在你的浏览器里完成,针对的是存放在那里的向量。
当“用我的保险箱回答”打开时,一次提问只会发送与它最接近的段落,最多 6 段,免费套餐为 3 段,连同文档名称,只随这一条消息发给负责回答的模型。你的其余文档不会离开浏览器。如果使用匿名模型,这些段落会随消息一起到达它的开发者,并适用该开发者的规则。GLM 5.3 Flash 是 Z.ai 的免费私密模型,能看图;关于私密 AI 的页面说明了所有内容保存在哪里。
值得记住
RAG 先检索一个集合,再请模型依据找到的段落作答。
它让很大的资料库也能在有限的上下文窗口下使用。
它让答案更容易核实,因为可以展示支撑它的段落。
质量取决于检索:如果漏掉了正确的段落,答案就会变差。
常见问题
RAG 等同于用我的文档训练模型吗?
不是。训练会改变模型本身,既慢又昂贵。RAG 不改动模型,只是针对每个问题把相关的段落放进提示里,所以你的文档随时可以更改。
嵌入是什么?
它是一串表示一段文字含义的数字。含义相近的文字,其向量也彼此靠近,这使得按含义而不是按确切字词来搜索成为可能。
RAG 能消除幻觉吗?
它给了模型真实的文字可依,因此能减少幻觉,但不能消除。模型仍可能读错段落或无视它,所以请对照被引用的段落核对答案。典型的失误有漏掉段落、读错表格和使用过时的资料。记录每个问题检索到了哪些段落,也有助于工程师排查顽固的错误答案。资料的时效同样重要:文档一有变化,就要重建索引。
问出你的第一个问题
无需账户,无需银行卡。NeverNo 会 10 种语言,用哪种写都行。
打开聊天