Qwen 3.8 27B impressiona mas exige ajustes por excesso de raciocínio

Um modelo forte, mas excessivamente deliberativo

O Qwen 3.8 27B é um modelo de linguagem com capacidade visual, 27 bilhões de parâmetros e licença Apache 2, desenvolvido pelo laboratório Qwen, da Alibaba. Seu tamanho o torna adequado para execução em um laptop relativamente bem equipado. O autor testou uma versão quantizada Q4_K_M de 17 GB no LM Studio, em um MacBook Pro com M5 Max e 128 GB de memória, e em um NVIDIA DGX Spark. Também executou o modelo diretamente com llama-server no Spark.

Os benchmarks divulgados pela própria Qwen indicam ganhos em relação ao Qwen 3.6 27B e ao modelo fechado Qwen 3.7-Plus, embora o texto ressalve que ainda seria necessário aguardar avaliações independentes. Na prática, a principal crítica é o padrão de raciocínio xhigh, ativado por padrão. A documentação oferece os níveis xhigh, medium e low, que permitem controlar profundidade, velocidade e custo. Segundo os testes, o nível máximo faz o modelo gastar muitos tokens até em tarefas triviais, além de ser inadequado para começar em hardware de consumo.

Ao gerar um SVG de um pelicano andando de bicicleta, o modelo levou 21 minutos, consumiu 22.276 tokens de raciocínio e produziu 3.223 tokens de saída. O resultado foi considerado o melhor desenho desse tipo obtido pelo autor em um modelo local, mas o tempo de espera não compensou. Com o raciocínio desativado, a mesma tarefa levou 137 segundos e gerou 3.715 tokens. Em outro teste, um pedido simples para desenhar um círculo resultou em uma animação elaborada, com anéis, gradientes e movimento, embora isso não tivesse sido solicitado.

Visão, ferramentas e programação

O modelo teve desempenho muito bom ao localizar pelicanos em uma fotografia. Ele retornou caixas delimitadoras em uma escala de 0 a 1.000 que corresponderam de forma precisa à imagem. A partir de um único comando e desses dados, também criou, offline, uma interface HTML para carregar uma imagem, interpretar o JSON e desenhar as caixas sobre a fotografia. O excesso de raciocínio levou o modelo a acrescentar uma cena de demonstração com pelicanos, recurso que não havia sido pedido. Sem raciocínio, a versão quase funcionou, mas posicionou as caixas incorretamente, sugerindo que a deliberação adicional pode melhorar tarefas desse tipo.

Os testes com o agente de programação Pi foram igualmente promissores. Executando o Qwen localmente no Spark, o agente consultou vários arquivos para explicar como funcionava a autenticação de um projeto e produziu uma resposta considerada sólida. Em seguida, ao receber um arquivo JSONL de uma sessão, escreveu e testou um programa em Python para convertê-lo em Markdown.

O limite é a velocidade

Apesar da capacidade de executar código, usar ferramentas, analisar imagens e lidar com contexto longo - de até 262.144 tokens, quando configurado -, o modelo entregou entre 15 e 30 tokens por segundo no LM Studio. O autor considera esse desempenho lento em comparação com modelos hospedados, o que dificulta seu uso cotidiano. Uma configuração do llama.cpp com Multi-Token Prediction, mecanismo que antecipa vários tokens para acelerar a verificação pelo modelo principal, superou a versão padrão do LM Studio em cerca de 72% em um teste comparativo no Spark.

A avaliação final é que o Qwen 3.8 27B demonstra o avanço dos modelos locais: um arquivo de 17 GB reúne pesos abertos, contexto longo, uso eficaz de ferramentas, visão e geração competente de código. O principal obstáculo para transformá-lo em um modelo diário não é a capacidade, mas a velocidade, especialmente porque o modelo denso exige muita largura de banda de memória.