Nem todo mundo precisa de modelos de fronteira

A metáfora do Ferrari e do Corolla

Allen Hutchison conta que ouviu, em rádio ou podcast, um argumento comparando modelos de fronteira a Ferraris: a maioria das pessoas dirige um Corolla. A frase o fez conexão com sua tese anterior de que "a caixa de chat é um desvio" - o mesmo erro repetido uma camada abaixo: construímos na camada de fronteira porque é onde está a atenção, não porque o trabalho exige.

Hutchison constrói agentes que rodam em modelos leves: um agente de código no Gemini Flash 2.5 e o Pepper, assistente pessoal desenvolvido com Chris na Vycari. Quase todo o trabalho agêntico do Pepper roda nos modelos mais baratos dos grandes laboratórios: orquestração majoritariamente no Gemini Flash Lite 3.5, com pequenas fatias de Claude Haiku 4.5 e GPT-5.6 Luna para evitar dependência de um único fornecedor. Cerca de 150 milhões de tokens custaram aproximadamente 40 dólares - valor que um sistema da classe Opus pode gastar em minutos. As tarefas não são exóticas: ver calendário, ler e-mails, gerenciar registros.

Objeções e o que um pequeno eval mostrou

As objeções conhecidas - alucinação, relato falso de sucesso, narrar chamadas de ferramenta em prosa - vêm de experiência real, mas Hutchison argumenta que precisam ser atualizadas: a camada barata sobe cerca de um degrau por ano.

Ele executou um eval com nove turnos de produção gravados, testados em três camadas (lite, Flash intermediário e Pro), com grader de outro fornecedor. O resultado foi mais plano que o esperado: quando a ferramenta retorna dados reais, todas as camadas se ancoram corretamente; quando os dados faltam, o comportamento depende de como a ausência é sinalizada. Com instrução vaga, todas fabricam conteúdo confiante - os modelos maiores produzem fabricações mais polidas. Com a ausência sinalizada claramente, todas as camadas, incluindo a lite, dizem que não conseguem ver o calendário. A fabricação, conclui, era propriedade do sinal, não do tamanho do modelo - o peso recai sobre o harness.

Dois resultados adicionais: o "rabinho embaralhado" (resposta correta que se desmonta nas últimas palavras) apareceu em todos os modelos, incluindo o Pro, e a camada intermediária inventou mais detalhes concretos que as camadas adjacentes em ferramentas vazias. A única exceção é o falso completion - encerrar um procedimento de cinco etapas na segunda e relatar como concluído - que melhora com o tamanho do modelo.

O custo de rodar barato

Hutchison reconhece um imposto: dez módulos no harness do Pepper, cerca de 2.500 linhas de código mais o mesmo tanto em testes, existem para capturar mau comportamento dos modelos. Seis deles são apenas detectores, ativados só após validação noturna. A maior parte desse código seria necessária em qualquer preço, e surgiu de observação: um modelo de fronteira revisa e nota as tarefas do dia, às vezes reproduzindo falhas como testes.

Falta um nome para essa camada

"Pequeno" é errado, "barato" é pejorativo. Ele propõe "daily drivers": carros escolhidos pelo que importa no uso diário. Ele já publicou evidência de capacidade: o gemini-3.1-flash-lite resolve 74,1% do suite do Gemini Scribe em solve^5, contra 57,4% do gemini-2.5-flash mais antigo, custando cerca de três quartos por execução. A latência de primeiro token também é vantagem em conversação.

A diferença de preço cresce, não diminui

OpenAI cortou o preço da Luna em 80% em 30 de julho, mas o corte do Sol veio semanas depois com validade de três meses. O corte de baixo é o preço; o de cima é uma promoção. Sem a promoção, o flagship custa 25 vezes o tier barato. Análise do MIT FutureTech aponta queda de cinco a dez vezes por ano no preço por capacidade fixa, com cerca de três vindas de algoritmos.

Onde barato não basta

Grounding não segue a mesma curva: a Google cobra 14 dólares por mil buscas após 5.000 gratuitas mensais; Anthropic e OpenAI cobram 10. Em pesquisa profunda, a linha de busca pode superar a de inferência. Outro limite é a escrita de skills: modelos leves as escrevem mal, então a ferramenta de autoria roda em modelo maior e as instruções explicitam a assimetria. A regra geral: subir uma camada quando a saída é um plano reutilizável; ficar abaixo quando é uma decisão descartável.

Caminho para independência dos laboratórios

Hutchison acredita, sem provar, que há caminho para pesos abertos ajustados nesse porte - a camada de modelo do Pepper já roteia três fornecedores. Quando mediu, o gemma4:e4b local resolveu 100% do tier fácil, mas colapsou: 15% em T2, 7% em T3, 11% em T4, contra mais de 65% do Flash Lite em todos os tiers. Ele quer testar o gradiente com modelos densos de 30 bilhões de parâmetros.

Conclusão

Orquestração barata viabiliza a assinatura de cinco dólares do Pepper. Chris observa que a maioria dos construtores do campo roda modelos mais caros, parte do motivo de precisarem de capital de risco. O debate sobre superinteligência, argumenta Hutchison, tem quase nada a ver com o software que a maioria usará - que precisa ler um calendário e sair da frente. O Corolla fica mais rápido a cada ano enquanto todos leem as resenhas do Ferrari.