RAG (generación aumentada por recuperación)

Un sistema RAG funciona en dos tiempos. Primero, una etapa de indexación divide cada documento en pasajes y convierte cada pasaje en un embedding, una lista de números que resume su significado. Los pasajes sobre temas cercanos reciben vectores cercanos. Después, en el momento de la pregunta, esta se convierte en un vector de la misma manera, se encuentran los pasajes más próximos comparando vectores y se añaden a la instrucción junto a la pregunta. El modelo responde entonces apoyándose en ellos.

El método responde a dos límites de un modelo simple. No puede leer lo que no ha aprendido, como tus apuntes de clase, un contrato con un proveedor, el manual de un producto o el registro de cambios de la semana pasada, y su ventana de contexto es finita. La recuperación aporta solo lo necesario: así, una biblioteca mucho mayor que la ventana sigue siendo consultable. También da a la respuesta un apoyo: el modelo puede citar el pasaje usado, lo que facilita detectar una alucinación.

La calidad de la respuesta depende de la calidad de la recuperación. Si no se encuentra el pasaje adecuado, el modelo no tiene nada que citar y puede recurrir a suposiciones. El tamaño de los pasajes también cuenta: un fragmento cortado a media frase pierde su sentido, y un bloque del tamaño de un capítulo desperdicia espacio. Las páginas escaneadas, las tablas y las notas al pie son escollos habituales. Por eso conviene leer una respuesta RAG con los pasajes citados a la vista. Piezas habituales: modelo de embeddings, índice vectorial, reordenador, regla de división y plantilla de instrucción; usos típicos: asistentes de soporte, búsqueda jurídica, ayuda al estudio y wikis internas. Los montajes híbridos combinan vectores semánticos y puntuación por palabras clave como BM25, y luego reordenan la preselección con un codificador cruzado, porque los códigos de producto, los apellidos y los números de error se encuentran mejor por términos literales que solo por el significado.

La Caja fuerte de NeverNo es un RAG diseñado en torno a tu privacidad. Los documentos que añades, en PDF, Word, Markdown, texto o código, se quedan en tu navegador, en la base IndexedDB llamada neverno, cifrados con la misma clave que tus conversaciones. Cada documento se divide en pasajes de unos 800 tokens, y cada pasaje recibe un vector de 1 024 números. Ese vector lo calcula una sola vez un modelo privado en DeepInfra, y la búsqueda en sí se hace en tu navegador, sobre los vectores almacenados allí.

Cuando «Responde con mi caja fuerte» está activado, una pregunta envía solo los pasajes más cercanos, seis como máximo, o tres con el plan gratuito, con el nombre del documento, solo para ese mensaje, al modelo que responde. El resto de tus documentos nunca sale. Con un modelo anonimizado, los pasajes llegan a su fabricante junto con el mensaje, según las reglas de ese fabricante. GLM 5.3 Flash es un modelo privado gratuito de Z.ai que lee imágenes, y la página sobre la IA privada explica dónde se conserva todo.