Agentes de pesquisa de ML resistem a overfit, aponta estudo da Amazon

O paradoxo dos benchmarks reutilizados

Pesquisadores da Amazon Science - Martin Bertran Lopez e Aaron Roth - abordam um puzzle antigo do machine learning: a teoria clássica prevê que avaliar repetidamente um modelo contra o mesmo conjunto de dados reservados (holdout) deveria causar overfitting, pois o conjunto deixa de ser "não visto" e passa a fazer parte do procedimento de treino. A pesquisa real, porém, se parece exatamente com esse ciclo: a comunidade científica avalia modelos em benchmarks fixos que não são revisados por anos, itera sobre eles e publica. Segundo o raciocínio dos livros-texto, os rankings já deveriam estar saturados de modelos que só funcionam nos benchmarks. Estudos empíricos, no entanto, mostram que quando se constroem novos conjuntos de teste para benchmarks antigos e muito reutilizados, os ganhos transferem em grande parte - ou seja, o progresso foi majoritariamente real.

Occam formalizado e a hipótese da compressão

A explicação proposta parte do princípio da navalha de Occam, formalizado matematicamente: se uma hipótese pode ser descrita em poucos bits - menos do que seria necessário para memorizar os dados de treino - e ainda assim funciona bem, ela deve capturar estrutura genuína dos dados, pois não há espaço para memorização. O argumento é de contagem: existem poucas descrições curtas, então é improvável que alguma delas tenha "enganado" o treino por sorte.

Os autores aventam a hipótese de que as estratégias bem-sucedidas de ML são altamente compressíveis: apesar de milhares de experimentos ao longo de um projeto, a receita final costuma ser uma lista curta de escolhas familiares - família de arquitetura, otimizador, taxa de aprendizado, esquema de regularização.

LLMs como decodificadores de compressão

Aqui entram os LLMs. Quanto mais o ouvinte já sabe, mais curta pode ser a mensagem: explicar um pipeline de ML a um leigo exige muito fundamento geral, enquanto a um especialista basta comunicar o que é específico do problema. O conhecimento de mundo do LLM - sobre ferramentas, algoritmos e valores padrão - não conta na contagem de bits, e por isso os LLMs funcionam como decodificadores de compressão excepcionais: recebem uma mensagem terminal curta e reconstruem o procedimento completo.

O experimento: explorador, compressor e reproduktor

O experimento usa três agentes. O "explorador" resolve problemas de ML com acesso livre ao conjunto de validação, iterando por centenas de rodadas - o ciclo que deveria causar overfitting. O "compressor" destila a estratégia vencedora em um prompt muito curto. O "reproduktor" implementa a estratégia do zero usando apenas esse prompt e os dados de treino, sem acesso ao conjunto de validação nem ao transcript. Se o reproduktor alcança o desempenho do explorador, tem-se um "certificado de compressão de saída": a estratégia refletia estrutura real, não memorização. No estudo, compressor e reproduktor são modelos Claude. A propriedade chave é que o reproduktor pode ser reiniciado infinitas vezes, permitindo testar muitas compressões - o que não é possível com uma comunidade humana de pesquisa.

Resultados

Em oito conjuntos de dados - classificação tabular, classificação de imagens, modelagem de linguagem, modelagem por difusão e reward modeling - prompts de 32 tokens bastaram para reproduzir a maior parte dos desempenhos; uma estratégia de modelagem de linguagem sobreviveu a 16 tokens sem perda. Em um experimento, a receita de treino estilo GPT foi codificada como "QKn 12L768 Mu .1 R² b2M 4x" (normalização QK, transformer de 12 camadas e 768 dimensões, otimizador Muon com learning rate 0.1, ativações ReLU ao quadrado, batch de 2 milhões de tokens e bloco feed-forward 4x). Com apenas 8 tokens, o desempenho deixou de ser reproduzido - o que mostra que os tokens carregavam informação genuína aprendida dos dados, não só conhecimento prévio do modelo.

Em outra direção, restringiram a entrada do explorador a um único bit por consulta (se o modelo superou ou não o melhor até então); mesmo assim ele encontrou estratégias tão boas quanto com pontuações numéricas completas, com garantia matemática de generalização.

Detectando overfitting

A teoria é falseável: estratégias genuinamente overfitadas não deveriam sobreviver à compressão. Ao empurrar agentes a maximizar a validação a qualquer custo, em 38 de 102 execuções a acurácia na validação superou em mais de 10 pontos a acurácia real em dados reservados. Ao passar essas estratégias pelo gargalo, as vantagens específicas da validação desapareceram - a compressão separou estratégias legítimas de overfitting com alta acurácia, servindo também como ferramenta de detecção.

Limitações

Os autores ressaltam ressalvas: o framework assume que o único caminho dos dados de validação até o modelo final é o prompt. Se um LLM tivesse memorizado os dados de validação durante o pretraining, haveria um canal lateral que contornaria o gargalo. Eles não acreditam que isso ocorreu nos experimentos - os agentes melhoram gradualmente e pioram em orçamentos curtos de tokens - mas resolver definitivamente a questão exigiria testar com conjuntos de dados criados após o corte de treino dos modelos, o que ainda não fizeram. Os resultados valem diretamente para agentes LLM; sobre comunidades humanas, são fortemente sugestivos, não provados: quando os ganhos transferem para dados novos, pode ser pela mesma razão - as receitas que funcionam são simples. A tese em uma frase: "o que cabe em poucos tokens não sofre overfit".