Эмбеддинги

Модель эмбеддингов читает текст и возвращает набор чисел фиксированной длины, например 1 024. Ни одно число само по себе ничего не значит; важно положение всего вектора в пространстве со многими измерениями. Предложение о том, как взять щенка, и предложение о том, как взять собаку из приюта, окажутся рядом, а предложение о налоговых декларациях — далеко. Расстояние обычно измеряют косинусным сходством, которое сравнивает направление двух векторов, а не их длину. Представь карту, где каждый текст — булавка, а соседи говорят об одном и том же. Есть такие модели и для изображений и звука: они помещают фото и подпись к нему в близкие точки. Слово «ключ» может оказаться рядом с замками или с родниками, в зависимости от окружающего предложения.

Это превращает размытые вопросы в арифметику. Чтобы искать по груде документов, ты один раз превращаешь каждый фрагмент в вектор и сохраняешь векторы; когда приходит вопрос, превращаешь в вектор и его, а затем ищешь фрагменты с ближайшими векторами. Та же идея лежит в основе рекомендаций, обнаружения дубликатов, группировки обращений в поддержку и памяти ассистентов. Это и первая стадия генерации, дополненной поиском, где найденные фрагменты передаются языковой модели, чтобы она отвечала по ним. Магазины, библиотеки и службы поддержки используют эмбеддинги для блоков рекомендаций, смыслового поиска и обнаружения спама или дубликатов, а специальный индекс быстро находит соседей, не перебирая все сохранённые векторы.

У эмбеддингов есть пределы. Вектор сохраняет смысл, но теряет точную формулировку, поэтому поиск точного кода, имени или номера может промахнуться, и многие системы сочетают векторы с поиском по ключевым словам. Векторы разных моделей нельзя сравнивать друг с другом: сменишь модель эмбеддингов — придётся заново пересчитать все векторы. Длинные тексты обычно сначала режут на фрагменты, ведь один вектор на целую книгу размывает её содержание, а от размера фрагмента зависит, что найдётся. Качество у моделей разное: одни хорошо справляются со многими языками, другие лучше в одном, поэтому проверь их на своём материале, прежде чем сделать выбор. Типичные коллекции — договоры, обращения в поддержку, рецепты, тексты песен или исходный код.

Сейф NeverNo использует эмбеддинги для твоих документов. Каждый фрагмент примерно в 800 токенов получает вектор из 1 024 чисел, который один раз вычисляет приватная модель у DeepInfra. Векторы хранятся в твоём браузере рядом с зашифрованными документами, и сам поиск выполняется там же. GLM 5.3 Flash — бесплатная приватная модель от Z.ai, которая читает изображения; это одна из моделей, которые затем могут отвечать по найденным фрагментам.

Разработчики могут обращаться к той же модели эмбеддингов. Конечная точка /embeddings в API возвращает векторы из qwen3-embedding-0.6b, по 1 024 значения, до 128 входных текстов на запрос. Параметр dimensions укорачивает векторы, поддерживается кодировка base64, а запросы с названиями моделей эмбеддингов OpenAI тоже принимаются и обслуживаются этой моделью. Страница о приватном ИИ объясняет, где хранятся остальные твои данные.