stamatios
← Voltar ao feed
Colosso de engrenagens luminosas dando primeiro passo, representando o modelo Beam de 501B parâmetros com pesos abertos
Open Source

Reflection lança Beam, modelo aberto de 501B parâmetros

resumo de ~3 min

O lançamento

A Reflection apresentou o Beam, seu primeiro modelo de pesos abertos: um Mixture-of-Experts esparso com 501 bilhões de parâmetros totais e 23 bilhões ativos, focado em código, raciocínio e cargas agênticas. O modelo está em fase final de red-teaming e avaliações; os pesos serão liberados ainda em outubro sob licença Apache 2.0, com relatório técnico, model card, documentação e a pilha completa para execução, avaliação e fine-tuning. Há lista de espera para acesso antecipado a um grupo seleto de usuários.

Resultados e eficiência

A empresa posiciona o Beam como um avanço da fronteira ocidental de pesos abertos, competitivo com modelos maiores como GLM 5.2 e se aproximando do Qwen 3.8-Max em tarefas de código e uso agêntico. Em benchmarks de raciocínio avançado, ele alcança pontuações comparáveis às do GLM-5.2 usando 3 a 4 vezes menos compute de inferência; a vantagem em relação a modelos da família de 2T+ parâmetros, como o Qwen 3.8-Max, é ainda maior. Exemplos citados: 80,9 no SWEBench Verified, 77,2 no SWE Bench Pro v1, 97,8 no AIME 2026 e 90,5 no GPQA Diamond. Em modelos da fronteira aberta como o Kimi K3, que segue à frente em capacidade bruta, o diferencial alegado é a eficiência de inferência.

Esses números fazem do Beam, segundo a Reflection, um modelo "de trabalho" para código e cargas agênticas corporativas. O usuário pode controlar o equilíbrio entre custo e qualidade por meio de um parâmetro de esforço de raciocínio: configurações menores favorecem respostas mais curtas, maiores permitem raciocínio mais longo para tarefas difíceis.

RL em alta escala

O diferencial central do treino foi o reinforcement learning em alto compute. A rodada usou 10.5 mil GPUs NVIDIA GB300 por quatro semanas, gerou mais de 100 milhões de rollouts com contexto máximo de 256 mil tokens e cerca de 1,3 bilhão de sandboxes, a partir de um pool de quase um milhão de ambientes de codificação, agênticos e STEM, criados majoritariamente por pipelines sintéticos com curadoria iterativa de dificuldade e qualidade. A Reflection afirma que este é um dos maiores runs de RL conduzidos por um laboratório aberto, e que as capacidades continuaram melhorando com mais compute de RL, sem platô.

Para sustentar o treino, a empresa desenvolveu gradientes de política assíncronos com novos algoritmos contra a instabilidade causada por staleness de política - o treino permaneceu estável mesmo com interações geradas mais de um dia antes (107 versões de pesos defasadas). A infraestrutura suportou em média 110 mil rollouts concorrentes e até 170 mil sandboxes simultâneos, com atualização de pesos na frota de inferência em mediana de cerca de 12 segundos (2,2 vezes mais rápido, com 75% menos tráfego entre racks), recuperação de 71 incidentes de inferência sem interromper o treino e lotes de treino 99,99% cheios.

Houve também transferência para domínios fora da mistura de treino: ganhos consistentes em navegação web sem tarefas de browsing no RL, aprendizado orgânico de busca e consulta a outros LLMs e uso de APIs de OCR. Entre as demonstrações, estão um mapa ao vivo do metrô de Nova York, um jogo 3D em p5.js, um experimento de generalização terra/água com 95,5% de acerto (entre Opus 5, com 92,5%, e Fable 5, com 97,8%) e um notebook de fine-tuning que elevou a acurácia do Gemma-4 em 66,5% na tarefa Text2SQL.

Pré-treino e segurança

O pré-treino usou 23,8 trilhões de tokens de web, fontes públicas e dados proprietários licenciados, concluído em menos de quatro semanas em um cluster de 6.144 GPUs GB300 NVL72, com goodput de 92,3% no final e nove rewinds semiautomáticos. Cerca de 95% dos tokens brutos da internet foram eliminados na curadoria, mas a pipeline retenve cerca de 1,8 trilhão de tokens de alta qualidade que filtros convencionais teriam perdido, incluindo 87% do código web curado. A arquitetura MoE combina atenção local e global intercalada, experts fine-grained, balanceamento de carga sem perda auxiliar (com decaimento cosseno dos vieses de roteamento) e estabilização do residual stream, resultando em utilização quase uniforme dos experts (o expert mais carregado chega a 1,04x). O midtraining estendeu o contexto efetivo a 1 milhão de tokens.

Para segurança e alinhamento, a Reflection treinou um segundo modelo a partir do checkpoint pré-treinado, com pipeline separada de SFT e RL, e fundiu os dois professores via multi-teacher on-policy distillation (MOPD). Os princípios seguem três níveis: regras inegociáveis (políticas de segurança e identidade como agente de IA), qualidades consistentes (uso do contexto, precisão, reconhecimento de incerteza) e estilo padrão de interação. O treino de segurança usou técnicas de deliberative alignment com dados construídos adversarialmente, incluindo cenários de jailbreak e adversários simulados pressionando o modelo a ações inseguras, para reduzir tanto recusas excessivas quanto conformidade prejudicial. As avaliações de segurança serão publicadas no relatório técnico e open-source.

A empresa conclui que o Beam é o primeiro de uma série, com o objetivo de aproximar a fronteira aberta da fronteira de inteligência a cada versão, e que já treina o próximo modelo.