Mezcla de expertos
Un modelo de mezcla de expertos es una red neuronal dividida en muchas subredes especializadas llamadas expertos, con un enrutador que envía cada token solo a unas pocas. Como solo una parte del modelo trabaja con cada token, puede ser enorme en total y costar menos de ejecutar que un modelo denso del mismo tamaño.
Actualizado el 8 de noviembre de 2026
Legible solo en tus dispositivos.
Tu conversación es legible en tu dispositivo, y en tus otros dispositivos si los sincronizas. En ningún otro sitio.
Ilegible para nosotros.
Tu mensaje pasa sin quedar registrado; tus chats solo se guardan cifrados.
El modelo no sabe quién eres.
Recibe la pregunta, nunca tu correo, tu cuenta ni tu dirección IP.
Nada se queda por el camino.
La respuesta vuelve y se guarda aquí, cifrada; aunque sincronices, tu clave nunca nos llega en claro.
Cómo funciona
En un modelo denso, todos los pesos intervienen en cada token. En uno de mezcla de expertos, los bloques de propagación hacia delante se sustituyen por un conjunto de expertos, decenas o cientos, y un pequeño enrutador aprendido elige unos pocos para cada token en cada capa. Los expertos no se convierten en especialistas ordenados como un abogado o un químico; tienden a especializarse en patrones de tokens, y el enrutador aprende ese reparto durante el entrenamiento. Por eso los tamaños publicados se dan dos veces: parámetros totales y parámetros activos por token.
La ventaja es una calidad cercana a la de un modelo denso mucho mayor con una fracción del cálculo por token, de modo que la generación puede ser rápida y barata. Los costes también son reales. Todos los expertos tienen que estar en memoria, así que la memoria necesaria sigue al total y no al número activo. El enrutamiento debe mantenerse equilibrado para que unos expertos no se saturen mientras otros descansan, y tanto el entrenamiento como el servicio son más complejos. El ajuste fino puede ser más delicado, y la cuantización suele acompañar a estos modelos para que quepan en memoria.
No leas una cifra como 35B o 400B como el cálculo que gasta una respuesta. En un modelo de mezcla de expertos, pide los dos números: los parámetros activos sugieren velocidad y coste, y los totales, capacidad de conocimiento y memoria. Muchos modelos abiertos recientes y algunos cerrados se construyen así, aunque los creadores no siempre lo dicen. Los ingenieros hablan también de pérdidas de equilibrio de carga, límites de capacidad y expertos compartidos por los que pasa cada token, mecanismos que sirven para mantener estable el enrutamiento. En un modelo abierto, el informe técnico y el archivo de configuración recogen estas decisiones: número de expertos, cuántos se eligen por token y tamaño de cada uno.
En NeverNo
El catálogo de NeverNo no indica qué modelos son mezclas de expertos, así que consulta la documentación del creador de cada modelo. Lo que sí indica el catálogo es práctico: el proveedor, el plan, si el modelo es privado o anonimizado, su longitud de contexto y si lee imágenes o razona.
Los modelos privados proceden de familias de pesos abiertos como DeepSeek, GLM, Qwen y Mistral. Qwen 3.5 35B es un modelo gratuito de Alibaba, con 128 000 tokens de contexto, que lee imágenes y te deja elegir si razona. Privado significa que lo sirven proveedores elegidos porque no conservan las solicitudes, y la página de transparencia dice con claridad que NeverNo no puede inspeccionar sus servidores.
Conviene recordar
Un enrutador activa solo unos pocos expertos por token, así que el cálculo por token es menor de lo que sugiere el tamaño total.
La memoria sigue a los parámetros totales, porque hay que cargar todos los expertos.
Los expertos se especializan en patrones de tokens, no en asignaturas ordenadas.
Lee los dos números, total y activo, al comparar modelos.
La configuración o el informe técnico de un modelo indica el número de expertos y cuántos se eligen por token.
Preguntas frecuentes
¿Una mezcla de expertos son varios modelos?
No. Es una sola red entrenada en conjunto: los expertos son partes internas de sus capas y el enrutador se entrena con ellos. Envías una solicitud a un modelo y recibes una respuesta. Piensa en un hospital con muchas plantas: un paciente solo pasa por las que necesita, pero todo el edificio debe seguir abierto y con personal.
¿Por qué algunos modelos indican parámetros totales y activos?
El total muestra el tamaño en memoria y la capacidad del modelo, y el activo indica cuántos pesos trabajan con cada token, lo que fija velocidad y coste. Ambos importan para una comparación justa. Citar ambas cifras mantiene honestas las clasificaciones, porque un modelo anunciado por su tamaño total puede funcionar tan ligero como uno denso mucho menor.
¿Es mejor que un modelo denso?
Depende. A menudo da mejor calidad por unidad de cálculo, pero necesita más memoria y es más difícil de ejecutar. Los modelos densos son más sencillos y pueden ser mejor opción en tamaños pequeños. Además, son más fáciles de ajustar, cuantizar y depurar, y por eso muchas versiones pequeñas y medianas siguen siendo densas, mientras que las mayores recurren a expertos para que cada respuesta resulte asequible. Entre las ventajas figuran la latencia menor y el rendimiento superior por vatio; entre los inconvenientes, la complejidad de los clústeres y la disciplina que exige el enrutamiento.
Haz tu primera pregunta
Sin cuenta ni tarjeta. Escribe en cualquiera de los 10 idiomas que habla NeverNo.
Abrir el chat