Pular para o conteúdo

Mistura de especialistas

Um modelo de mistura de especialistas é uma rede neural dividida em várias sub-redes especializadas, chamadas especialistas, com um roteador que envia cada token a apenas alguns deles. Como só parte do modelo trabalha em cada token, ele pode ser enorme no total e custar menos para rodar do que um modelo denso do mesmo tamanho.

Atualizado em 8 de novembro de 2026

  1. Legível só nos seus dispositivos.

    Sua conversa é legível no seu dispositivo, e nos seus outros dispositivos se você os sincronizar. Em nenhum outro lugar.

  2. Ilegível para nós.

    Sua mensagem passa sem ser gravada; suas conversas só ficam com a gente criptografadas.

  3. O modelo não sabe quem você é.

    Ele recebe a pergunta, nunca seu e-mail, sua conta ou seu endereço IP.

  4. Nada fica pelo caminho.

    A resposta volta e é guardada aqui, criptografada; mesmo com a sincronização, sua chave nunca chega até nós em claro.

O caminho de uma conversa no NeverNo. Os detalhes estão na página de transparência.

Como funciona

Em um modelo denso, todos os pesos participam de cada token. Em um modelo de mistura de especialistas, os blocos de propagação direta são trocados por um conjunto de especialistas, dezenas ou centenas, e um pequeno roteador aprendido escolhe alguns para cada token em cada camada. Os especialistas não viram especialistas bem definidos, como um advogado ou um químico; eles tendem a se especializar em padrões de tokens, e o roteador aprende essa divisão durante o treinamento. Por isso os tamanhos publicados vêm em dois números: parâmetros totais e parâmetros ativos por token.

A vantagem é uma qualidade próxima à de um modelo denso muito maior, com uma fração da computação por token, e a geração pode ser rápida e barata. Os custos também são reais. Todos os especialistas precisam estar na memória, então a memória necessária acompanha o total, não o número ativo. O roteamento precisa continuar equilibrado para que alguns especialistas não fiquem sobrecarregados enquanto outros ficam parados, e tanto o treinamento quanto o serviço são mais complexos. O ajuste fino pode ser mais delicado, e a quantização costuma acompanhar esses modelos para que caibam na memória.

Não leia um número como 35B ou 400B como a computação que uma resposta gasta. Em um modelo de mistura de especialistas, peça os dois números: os parâmetros ativos indicam velocidade e custo, e os totais indicam capacidade de conhecimento e memória. Muitos modelos abertos recentes e alguns fechados são construídos assim, embora os criadores nem sempre digam. Os engenheiros também falam em perdas de balanceamento de carga, limites de capacidade e especialistas compartilhados por onde todo token passa, mecanismos que servem para manter o roteamento estável. Em um modelo aberto, essas escolhas de projeto constam do relatório técnico e do arquivo de configuração, que informam o número de especialistas, quantos são escolhidos por token e o tamanho de cada um.

No NeverNo

O catálogo do NeverNo não informa quais modelos são misturas de especialistas, então consulte a documentação do criador de cada modelo. O que o catálogo informa é prático: o provedor, o plano, se o modelo é privado ou anonimizado, o tamanho do contexto e se lê imagens ou raciocina.

Os modelos privados vêm de famílias de pesos abertos como DeepSeek, GLM, Qwen e Mistral. O Qwen 3.5 35B é um modelo gratuito da Alibaba, com 128.000 tokens de contexto, que lê imagens e deixa você escolher se ele raciocina. Privado significa que ele é servido por provedores escolhidos porque não guardam os pedidos, e a página de transparência diz claramente que o NeverNo não consegue inspecionar os servidores deles.

O que vale lembrar

  1. Um roteador ativa só alguns especialistas por token, então a computação por token é menor do que o tamanho total sugere.

  2. A memória continua acompanhando os parâmetros totais, porque todos os especialistas precisam ser carregados.

  3. Os especialistas se especializam em padrões de tokens, não em matérias escolares bem definidas.

  4. Leia os dois números, total e ativo, ao comparar modelos.

  5. A configuração ou o relatório técnico de um modelo informa o número de especialistas e quantos são escolhidos por token.

Perguntas frequentes

Uma mistura de especialistas são vários modelos?

Não. É uma única rede treinada em conjunto: os especialistas são partes internas das camadas e o roteador é treinado junto com eles. Você envia um pedido a um modelo e recebe uma resposta. Pense em um hospital com muitas alas: o paciente passa só pelas de que precisa, mas o prédio inteiro precisa continuar aberto e com equipe.

Por que alguns modelos informam parâmetros totais e ativos?

O total mostra o tamanho na memória e a capacidade do modelo, e o ativo mostra quantos pesos trabalham em cada token, o que define velocidade e custo. Os dois importam para uma comparação justa. Citar os dois números mantém os rankings honestos, porque um modelo anunciado pelo tamanho total pode rodar tão leve quanto um denso muito menor.

É melhor que um modelo denso?

Depende. Muitas vezes dá melhor qualidade por unidade de computação, mas precisa de mais memória e é mais difícil de rodar. Modelos densos são mais simples e podem ser a melhor escolha em tamanhos pequenos. Modelos densos são mais fáceis de ajustar, quantizar e depurar, e por isso muitos lançamentos pequenos e médios continuam densos, enquanto os maiores recorrem a especialistas para que cada resposta seja acessível. Entre as vantagens estão a latência menor e o melhor rendimento por watt; entre as desvantagens, a complexidade dos clusters e a disciplina que o roteamento exige.

Faça a sua primeira pergunta

Sem conta e sem cartão. Escreva em qualquer um dos 10 idiomas que o NeverNo fala.

Abrir o chat