RAG (génération augmentée par récupération)

Un système RAG fonctionne en deux temps. D’abord, une étape d’indexation découpe chaque document en passages et transforme chaque passage en embedding, une liste de nombres qui résume son sens. Les passages sur des sujets proches reçoivent des vecteurs proches. Ensuite, au moment de la question, celle-ci est convertie en vecteur de la même manière, les passages les plus proches sont trouvés en comparant les vecteurs, et ils sont ajoutés à la consigne à côté de la question. Le modèle répond alors en s’appuyant sur eux.

La méthode répond à deux limites d’un modèle simple. Il ne peut pas lire ce qu’il n’a pas appris, comme tes notes de cours, un contrat fournisseur, une notice produit ou le journal des modifications de la semaine dernière, et sa fenêtre de contexte est finie. La récupération n’apporte que le nécessaire : une bibliothèque bien plus grande que la fenêtre reste donc interrogeable. Elle donne aussi à la réponse un appui : le modèle peut citer le passage utilisé, ce qui rend une hallucination plus facile à repérer.

La qualité de la réponse dépend de celle de la récupération. Si le bon passage n’est pas trouvé, le modèle n’a rien à citer et peut se rabattre sur des suppositions. La taille des passages compte aussi : un fragment coupé en pleine phrase perd son sens, un bloc grand comme un chapitre gaspille la place. Pages numérisées, tableaux et notes de bas de page sont des écueils courants. Briques usuelles : modèle d’embedding, index vectoriel, reclasseur, règle de découpage, gabarit de consigne ; usages : assistants de support, recherche juridique, aide aux études, wikis internes. Les montages hybrides combinent vecteurs sémantiques et notation par mots-clés comme BM25, puis reclassent la présélection avec un encodeur croisé, car codes produit, noms de famille et numéros d’erreur se retrouvent mieux par termes littéraux que par le sens seul.

Le coffre de NeverNo est un RAG conçu autour de ta vie privée. Les documents que tu ajoutes, au format PDF, Word, Markdown, texte ou code, restent dans ton navigateur, dans la base IndexedDB nommée neverno, chiffrés avec la même clé que tes conversations. Chaque document est découpé en passages d’environ 800 jetons, et chaque passage reçoit un vecteur de 1 024 nombres. Ce vecteur est calculé une seule fois par un modèle privé chez DeepInfra, et la recherche elle-même se fait dans ton navigateur, sur les vecteurs qui y sont stockés.

Quand « Réponds avec mon coffre » est activé, une question n’envoie que les passages les plus proches, six au plus, ou trois avec l’offre gratuite, avec le nom du document, pour ce seul message, au modèle qui répond. Avec un modèle anonymisé, les passages parviennent à son éditeur avec le message, selon les règles de cet éditeur. GLM 5.3 Flash, un modèle privé gratuit de Z.ai qui lit les images, fait partie du catalogue, et la page sur l’IA privée explique où tout est conservé.