Microsoft lança MAI-Code-1.1-Flash, mais rápido e com um quarto do custo

Lançamento e posicionamento

A Microsoft AI apresentou o MAI-Code-1.1-Flash, um modelo leve e agentico voltado a programação, já em produção no GitHub Copilot. Segundo o texto, a versão 1.1 produz código de maior qualidade, com 25% mais eficiência de tokens e custo de um quarto do modelo lançado em junho na Microsoft Build. O texto descreve o modelo como um "coding workhorse" pequeno e eficiente.

Melhorias medidas

A empresa afirma que deu prioridade a tarefas de CLI e desempenho em .NET, por causa de feedback de desenvolvedores. Os resultados citados são:

• melhora de 22% no Terminal-Bench 2.1 dentro do GitHub Copilot CLI;
• melhora de 15% em tarefas de .NET;
• aumento de 4% na sobrevivência do código e de 9% nas visitas de retorno, dados que o texto apresenta como medidas de produção, e não de benchmark.

Também segundo a fonte, no GitHub Copilot os tokens são transmitidos 25% mais rápido e o modelo usa 25% menos tokens para concluir uma tarefa. A empresa diz que os ganhos vieram de treino e servir mais eficientes, otimizados em centenas de milhares de ambientes de aprendizado por reforço no GitHub Copilot, e que a redução de preço em relação à versão 1.0 foi repassada aos clientes.

Execução local

O texto apresenta uma versão quantizada em 3 bits, voltada a hardware local. Segundo a Microsoft, essa versão reduz o uso de memória, mantém a janela de contexto de 256K e tem desempenho de código comparável ao da versão de precisão total nos benchmarks SWE-Bench Verified e Terminal-Bench 2.1. O modelo pode ser baixado e executado localmente, e a empresa recomenda dispositivos com mais de 120 GB de RAM para melhor desempenho. As chamadas de modelo local não têm cobrança de inferência. Dentro do roteador do Copilot, a opção local pode atender tarefas de código elegíveis, enquanto modelos na nuvem continuam para tarefas que exigem mais capacidade.

Disponibilidade e limites

O acesso experimental deve chegar ao GitHub Copilot app, ao GitHub Copilot CLI e ao Visual Studio Code até o fim do mês. A Microsoft convida usuários a testar e a registrar sugestões de melhoria em uma issue. O texto não traz comparações independentes além dos benchmarks citados pela própria empresa, e os ganhos reportados referem-se ao ambiente do GitHub Copilot.