Arquitetura do Qwen4 aparece cedo com design incomum de parâmetros

A Alibaba adiantou a arquitetura que pretende usar no Qwen4. A prévia chegou na forma do Qwen3.8-Flash-Next, modelo de pesos abertos com 125 bilhões de parâmetros, dos quais apenas 6 bilhões são ativados a cada token gerado. A alegação da equipe é de custo, e não de capacidade. A licença adotada, por sua vez, pode não se qualificar para a isenção de código aberto prevista no AI Act, a lei europeia de inteligência artificial.

A justificativa é a conta de inferência

A preocupação declarada é o que as escolhas arquiteturais fazem com as contas de inferência à medida que tarefas agênticas com contextos muito longos se tornam a carga de trabalho normal. A comparação é com o modelo anterior da própria linha: o Qwen3.7-Plus mantém 397 bilhões de parâmetros e ativa 17 bilhões, de modo que o novo roda com cerca de um terço da computação ativa.

Três das quatro mudanças são convencionais o bastante. Um novo esquema de atenção esparsa opera sobre microblocos em vez de escolher tokens individuais; um mecanismo de resíduo com controle (gated residual) regula o que passa entre as camadas; e a receita de treino elimina por completo o batch-size warmup, o aquecimento gradual do tamanho do lote.

A quarta é a incomum. Em vez de adicionar especialistas, o modelo acopla 51 bilhões de parâmetros como um embedding separado, indexado por fragmentos de dois e três caracteres. Segundo a equipe, a escolha custa menos computação e é mais fácil de descarregar em aceleradores com pouca memória.

Desenho moldado pela escassez de chips

Essa última expressão merece atenção redobrada: projetar para aceleradores com pouca memória é o que se faz quando não se pode comprar os melhores chips - a posição em que os controles de exportação colocaram os laboratórios chineses.

Evidência segue autorreportada

Os números do anúncio vêm dos próprios instrumentos de avaliação da Alibaba, que já havia chamado o Qwen3.8 de segundo melhor modelo do mundo sem apresentar provas. Algumas escolhas, no entanto, são incomumemente transparentes: o model card informa que a pontuação do Humanity's Last Exam foi corrigida pelo GPT-4o, e não pelo avaliador do próprio benchmark - o que é divulgação, e não neutralidade.

A licença e a pergunta europeia

É na licença que a Europa tem uma pergunta. Os pesos estão no Hugging Face sob a licença qwen-community, e uma reportagem de 7 de agosto deu conta de que a Alibaba pretende cobrar seus maiores usuários comerciais. O AI Act trata essa distinção como determinante: o Artigo 53(2) dispensa dois deveres de documentação para modelos sob licença livre e de código aberto, e o considerando 103 afirma que componentes fornecidos mediante preço ou monetizados de outra forma não devem receber a isenção.

As empresas europeias não estão esperando essa resposta. A Thomson Reuters construiu seu modelo sobre o Qwen, e quem fizer o mesmo herda aquilo que a licença eventualmente vier a ser.

No conjunto, o anúncio reúne uma arquitetura feita para conter contas de inferência sob restrição de memória, métricas de desempenho ainda autorreportadas e uma classificação de licença em aberto - com empresas europeias já construindo sobre os pesos.