Guia explica como construir um modelo de linguagem por difusão

Dois paradigmas de geração e por que difusão em texto demorou

O guia do Kuleshov Group explica como construir modelos de linguagem por difusão, material adaptado de palestras no ICLR 2026 e MLSS 2026. Ele parte da divisão atual da IA generativa: para dados contínuos como imagens, o estado da arte é difusão; para dados discretos como texto, o padrão são modelos autorregressivos, que geram tokens da esquerda para a direita, um a um. Essa abordagem tem limitações inerentes: não há correção de erros (tokens emitidos não podem ser revisados), a geração é lenta (um passo por token) e a atenção é causal, olhando apenas para trás.

Modelos de difusão geram a sequência inteira de uma vez, partindo de um rascunho inicial e refinando iterativamente. Isso permite trocar velocidade por qualidade, corrigir erros no meio do caminho e usar contexto bidicional a cada passo. Aplicar difusão à linguagem foi um problema em aberto por muito tempo, mas em 2024 esses modelos se tornaram competitivos com os autorregressivos, e em 2026 já existem lançamentos como Mercury 2 (Inception Labs), Gemma Diffusion (Google) e Nemotron Diffusion (NVIDIA).

Fundamentos: difusão gaussiana e difusão mascarada

O texto revisa primeiro a difusão gaussiana para imagens: um processo direto adiciona ruído gradualmente a uma imagem limpa até virar ruído puro, gerando dados de treino; um processo reverso aprende a inverter a corrupção, denoising passo a passo.

Para texto, o desafio é definir o que é "ruído" em tokens discretos. A solução popularizada pelo grupo é a difusão mascarada: treina-se um transformer bidicional para preencher lacunas em sequências parcialmente mascaradas, com taxa de mascaramento aleatória - essencialmente um "BERT generativo". A geração alterna infilling (preencher os vazios) e remasking (remecher parte dos tokens, mantendo progressivamente mais posições reveladas).

Na formulação probabilística, o processo direto é uma cadeia de Markov governada por um cronograma αt, que desempenha o papel da razão sinal-ruído. O modelo aprende a prever a sequência limpa dado o estado mascarado. O limite inferior de evidência (ELBO) tem forma simples e se reduz à perda de cross-entropy tipo BERT, média sobre todas as taxas de mascaramento. Isso permitiu comparar difusão e autorregressão por perplexidade, e os MDLMs simplificados foram dos primeiros a fechar boa parte dessa lacuna.

Extensões para modelos prontos para produção

MDLMs básicos geram apenas sequências de tamanho fixo e não corrigem erros. O guia cobre as extensões:

• Block diffusion: gera blocos de tamanho arbitrário condicionados aos tokens anteriores, permitindo comprimento variável e KV caching, como no Gemma Diffusion. Abordagens como Set Diffusion, Edit Flows e FlexMDM generalizam a ideia com conjuntos de posições ou operações de inserção, deleção e substituição.
• Arquiteturas: modelos mascarados padrão são encoder-only; separar representação (encoder) e denoising (decoder leve) acelera inferência e treino, sendo núcleo de Gemma Diffusion e Nemotron Diffusion.
• Correção de erros: no MDLM padrão, um token revelado nunca é revisado. Remasking diffusion (ReMDM) re-mascara alguns tokens por passo, funcionando como plug-in em modelos pré-treinados e permitindo escala de compute na inferência - com mais passos, o MAUVE sobe de 0,40 para 0,66, aproximando-se da qualidade autorregressiva (0,76). Uniform state diffusion substitui tokens por tokens aleatórios do vocabulário em vez de máscaras, permitindo revisar qualquer posição; o Gemma Diffusion é um UDLM.
• Aceleração: a difusão pode ser 5–10× mais rápida que a geração autorregressiva, e técnicas de destilação progressiva e destilação de consistência reduzem os passos de amostragem.
• Geração controlável: difusão se destaca em gerar amostras que satisfazem uma propriedade alvo, via guidance com classificador ou sem classificador (CFG), navegando melhor a fronteira de Pareto entre naturalidade e satisfação da propriedade.

Pós-treinamento e estado atual

Modelos de difusão também podem ser pós-treinados com aprendizado por reforço para raciocínio. O obstáculo é estimar a verossimilhança de trajetórias; o d1 propõe o diffu-GRPO com aproximação mean-field, e o d2 deriva estimadores mais precisos, alcançando novo estado da arte em benchmarks de lógica e matemática sem fine-tuning supervisionado.

Na ciência, a difusão discreta teve sucesso precoce em sequências biológicas, que apresentam menos vieses de esquerda-para-direita e se beneficiam da geração controlável. O ESM3 implementa MDLM com até 100B parâmetros para proteínas; o Nucleotide Transformer v3 (com InstaDeep e BioNTech) aplica MDLM a DNA e gerou reguladores que modulam expressão gênica validados em laboratório.

Em linguagem natural, LLaDA escalou MDLM a 8B parâmetros em pesos abertos. Mercury foi o primeiro LLM de difusão comercial, superando 1.000 tokens/segundo por usuário em GPUs comuns; o Mercury 2 rivaliza com modelos otimizados para velocidade como Claude Haiku e Gemini Flash-Lite/Flash a 5–10× a velocidade. O guia encerra discutindo se a difusão pode ser um caminho para modelos mais inteligentes, sob a perspectiva de leis de escalonamento.