Cohere lança North Small Translate, modelo aberto para 50 idiomas
Cohere e Cohere Labs lançaram o North Small Translate, uma versão de pesos abertos para pesquisa de um modelo especializado em tradução automática de alta qualidade em 50 idiomas. O modelo se chama North-Small-Translate-1.0 e é um Transformer decoder-only com mistura esparsa de especialistas (MoE), 25 bilhões de parâmetros ativos e 218 bilhões totais. A janela de contexto é de 16 mil tokens de entrada e 16 mil de saída.
Arquitetura e idiomas
A arquitetura tem 128 especialistas, dos quais 8 são ativados por token, além de especialistas compartilhados aplicados a todos os tokens. As camadas de atenção intercalam atenção de janela deslizante (tamanho 4096), com embeddings posicionais rotativos, e camadas de atenção global sem embeddings posicionais, numa proporção de 3:1, como introduzido no Command A. O roteador aplica uma ativação sigmoide sobre os logits dos especialistas e normaliza sobre o top-k selecionado. O modelo foi pós-treinado especificamente para qualidade de tradução. A lista de 50 idiomas inclui português, inglês, espanhol, alemão, francês, italiano, japonês, coreano, árabe, hindi, russo, chinês simplificado e tradicional, entre outros.
Avaliação e quantizações
Na avaliação, o North Small Translate marcou 83,60 no WMT26 em todos os idiomas avaliados, número que sobe para 84,36 com um fluxo de tradução agêntica em múltiplas passagens. A Cohere disponibiliza três quantizações, com requisitos mínimos de GPU: BF16 (4 x B200 ou 8 x H100), FP8 (2 x B200 ou 4 x H100) e NVFP4 W4A16 (1 x B200 ou 2 x H100). Segundo a empresa, as três variantes são os checkpoints que ela serve em produção. O modelo pode ser experimentado em um Space no Hugging Face antes do download dos pesos.
Licença e uso
A licença é CC BY-NC 4.0, não comercial, com adendo de uso aceitável e exigência de adesão à Política de Uso Aceitável do Cohere Labs. Para uso comercial, é preciso contatar a equipe de vendas da Cohere. A Cohere recomenda decodificação greedy, que é a usada na implantação em produção. O modelo envolve as respostas em marcadores estruturais como <|START_TEXT|> e <|END_TEXT|>, deliberadamente não registrados como tokens especiais, porque os parsers de raciocínio e chamada de ferramentas do vLLM dependem de vê-los; por isso, skip_special_tokens=True não os remove. O generate também retorna o prompt seguido da conclusão, e a Cohere recomenda usar a biblioteca melody para fatiar o prompt e interpretar o restante.