Перейти к содержимому

RAG (генерация, дополненная поиском)

Генерация, дополненная поиском, или RAG, — это приём, при котором в коллекции документов ищутся фрагменты, лучше всего подходящие к вопросу, и передаются языковой модели, а она пишет ответ на их основе. Он позволяет модели работать с материалом, на котором её не обучали и который слишком велик, чтобы вставить его целиком.

Обновлено 8 ноября 2026 г.

  1. Читается только на твоих устройствах.

    Твой чат можно прочитать на твоём устройстве и, если включена синхронизация, на других твоих устройствах. Больше нигде.

  2. Мы прочитать не можем.

    Сообщение проходит через нас, но нигде не записывается; твои чаты хранятся только в зашифрованном виде.

  3. Модель не знает, кто ты.

    Она получает вопрос — но не твою почту, аккаунт или IP-адрес.

  4. По пути ничего не остаётся.

    Ответ возвращается и сохраняется здесь в зашифрованном виде; даже при синхронизации твой ключ никогда не попадает к нам в открытом виде.

Путь разговора в NeverNo. Подробности на странице прозрачности.

Как это работает

У RAG-системы два этапа. Сначала на этапе индексации каждый документ режется на фрагменты, а каждый фрагмент превращается в эмбеддинг — набор чисел, отражающий его смысл. Фрагменты на похожие темы получают похожие векторы. Затем, когда задают вопрос, он так же превращается в вектор, ближайшие фрагменты находятся сравнением векторов и добавляются в промпт рядом с вопросом. Модель отвечает, опираясь на них.

Метод обходит два ограничения обычной модели. Она не может прочитать то, на чём не обучалась, например твои конспекты, договор с поставщиком, руководство к изделию или журнал изменений прошлой недели, а её окно контекста конечно. Поиск подтягивает только нужное, поэтому даже по библиотеке, намного превышающей окно, можно задавать вопросы. К тому же ответу есть на что опереться: модель может процитировать использованный фрагмент, и галлюцинацию легче заметить.

Качество ответа зависит от качества поиска. Если нужный фрагмент не найден, цитировать модели нечего, и она может начать гадать. Важен и размер фрагмента: кусок, обрезанный на полуслове, теряет смысл, а блок размером с главу расходует место впустую. Сканированные страницы, таблицы и сноски — частые камни преткновения. Поэтому ответ RAG лучше читать, держа перед глазами процитированные фрагменты. Типичные составные части — модель эмбеддингов, векторный индекс, модель переранжирования, правило нарезки и шаблон запроса; типичные применения — боты поддержки, юридический поиск, помощь в учёбе и внутренние вики. Гибридные схемы сочетают семантические векторы с классической оценкой по ключевым словам вроде BM25, а затем переранжируют короткий список кросс-энкодером, потому что коды товаров, фамилии и номера ошибок лучше находятся по буквальным словам, чем по одному смыслу.

В NeverNo

Сейф NeverNo — это RAG, построенный вокруг твоей приватности. Документы, которые ты добавляешь, в форматах PDF, Word, Markdown, текст или код, хранятся в браузере в базе IndexedDB с именем neverno и шифруются тем же ключом, что и твои чаты. Каждый документ режется на фрагменты примерно по 800 токенов, и каждый фрагмент получает вектор из 1 024 чисел. Этот вектор один раз вычисляет приватная модель у DeepInfra, а сам поиск выполняется в твоём браузере по векторам, которые хранятся там.

Когда включено «Отвечай по моему сейфу», отвечающей модели уходят только ближайшие к вопросу фрагменты с названием документа — не больше 6, а на бесплатном тарифе 3, — и только вместе с этим сообщением. Остальные документы не покидают устройство. Если модель анонимная, фрагменты вместе с сообщением попадают к её разработчику и подчиняются его правилам. GLM 5.3 Flash — бесплатная приватная модель от Z.ai, которая читает изображения, а страница о приватном ИИ объясняет, где что хранится.

Что стоит запомнить

  1. RAG сначала ищет по коллекции, затем просит модель ответить по найденным фрагментам.

  2. Он позволяет работать с очень большой библиотекой, несмотря на ограниченное окно контекста.

  3. Он облегчает проверку ответов, потому что можно показать подтверждающий фрагмент.

  4. Качество зависит от поиска: если нужный фрагмент упущен, страдает и ответ.

Частые вопросы

RAG — это то же, что обучение модели на моих документах?

Нет. Обучение меняет саму модель, это долго и дорого. RAG оставляет модель как есть и лишь помещает подходящие фрагменты в запрос при каждом вопросе, поэтому твои документы могут меняться в любой момент.

Что такое эмбеддинг?

Это набор чисел, представляющий смысл фрагмента текста. У текстов с близким смыслом векторы лежат рядом, и именно это делает возможным поиск по смыслу, а не по точным словам.

Убирает ли RAG галлюцинации?

Он снижает их, давая модели настоящий текст для опоры, но не устраняет. Модель всё равно может неверно понять фрагмент или проигнорировать его, поэтому сверяй ответ с процитированными фрагментами. Типичные сбои — пропущенный фрагмент, неверно прочитанная таблица и устаревший источник. Записывай, какие фрагменты нашлись по каждому вопросу: так разработчикам проще разбирать стойкие ошибки. И переиндексируй документы каждый раз, когда они меняются.

Задай первый вопрос

Без аккаунта и без карты. Пиши на любом из 10 языков, на которых говорит NeverNo.

Открыть чат