Embeddings (plongements)

Un modèle d’embedding lit un texte et renvoie une liste de nombres de longueur fixe, par exemple 1 024. Aucun nombre ne veut rien dire isolément ; ce qui compte, c’est la position du vecteur entier dans un espace à nombreuses dimensions. Une phrase sur l’adoption d’un chiot et une autre sur un chien pris au refuge atterrissent côte à côte, alors qu’une phrase sur la déclaration d’impôts tombe très loin. La distance se mesure souvent par similarité cosinus, qui compare la direction de deux vecteurs plutôt que leur longueur. Imagine une carte où chaque texte est une épingle : les voisins parlent de la même chose. Il existe aussi des modèles pour les images et l’audio, qui placent une photo et sa légende en des points voisins.

Cela transforme des questions floues en arithmétique. Pour chercher dans une pile de documents, on calcule une fois l’embedding de chaque passage et on stocke les vecteurs ; au moment de la question, on calcule celui de la question, puis on cherche les passages aux vecteurs les plus proches. La même idée sert aux recommandations, à la détection de doublons, au regroupement de tickets d’assistance et à la mémoire des assistants. C’est aussi la première étape de la génération augmentée par récupération, où les passages trouvés sont confiés à un modèle de langage pour qu’il réponde à partir d’eux. Boutiques, bibliothèques et services d’assistance l’emploient pour des rayons de recommandations, des barres de recherche sémantique et la détection de spams ou de doublons, avec un index spécialisé qui trouve vite les voisins au lieu de parcourir chaque vecteur stocké.

Les embeddings ont des limites. Un vecteur garde le sens mais perd la formulation exacte : une recherche d’un code, d’un nom ou d’un nombre précis peut échouer, et beaucoup de systèmes combinent vecteurs et recherche par mots-clés. Les vecteurs de deux modèles différents ne se comparent pas : changer de modèle d’embedding oblige à tout recalculer. Les longs textes sont d’ordinaire découpés d’abord en passages, car un seul vecteur pour tout un livre brouille son contenu, et la taille des passages change ce qu’on retrouve. La qualité varie selon les modèles : certains gèrent de nombreuses langues, d’autres réussissent mieux dans une seule, alors teste avec tes propres documents avant de t’engager. Collections typiques : contrats, tickets d’assistance, recettes, paroles de chansons ou code source.

Le coffre de NeverNo utilise des embeddings pour tes propres documents. Chaque passage, d’environ 800 jetons, reçoit un vecteur de 1 024 nombres calculé une fois par un modèle privé chez DeepInfra. Les vecteurs sont gardés dans ton navigateur, à côté des documents chiffrés, et la recherche s’y fait aussi. GLM 5.3 Flash est un modèle privé et gratuit de Z.ai qui lit les images ; c’est l’un des modèles qui peuvent ensuite répondre à partir des passages trouvés.

Les développeurs peuvent utiliser le même modèle d’embedding. Le point d’accès /embeddings de l’API renvoie les vecteurs de qwen3-embedding-0.6b, avec 1 024 valeurs et jusqu’à 128 entrées par requête. L’option dimensions raccourcit les vecteurs, l’encodage base64 est compris, et les noms de modèles d’embedding d’OpenAI sont acceptés et servis par lui. La page sur l’IA privée explique où le reste de tes données est conservé.