Anthropic mostra pesquisadores automatizados tornando modelos mais seguros

A Anthropic publicou, em 28 de agosto de 2026, um relatório mostrando que pesquisadores automatizados podem mitigar falhas de alinhamento de forma confiável. A empresa encarregou o Claude de treinar modelos autonomamente para melhorar o desempenho em benchmarks públicos de 10 categorias de falhas, entre elas engano, sicofância, jailbreaks e violações de privacidade.

Como funcionou o experimento

Claude atacou uma falha por vez, num ciclo de busca na literatura, proposição de métodos e dados, treinamento e teste. O sucesso foi medido pelo percentual da lacuna de segurança fechada: o quanto os métodos aproximaram o modelo estudante da pontuação teórica perfeita nos benchmarks de cada categoria, geralmente três a cinco. A Anthropic excluiu métodos que prejudicassem as capacidades gerais e proibiu que Claude destilasse seu próprio alinhamento no modelo-alvo; as restrições eram garantidas por um agente monitor, que lia todo método antes da execução.

Resultados

Nas 10 falhas, Claude encontrou correções que melhoraram os benchmarks-alvo sem degradar capacidades. Os melhores métodos também funcionaram em benchmarks de alinhamento retidos - nunca mostrados ao agente - e no Petri, ferramenta de código aberto que simula cenários adversariais de múltiplos turnos. Os métodos seguiram eficazes em modelos até 4,7 vezes maiores que os otimizados no ciclo.

Claude também superou 28 pesquisadores humanos de segurança, que tiveram até oito horas para propor métodos; no engano, o melhor método do agente foi 20% superior ao melhor humano. Como os humanos não puderam iterar, a Anthropic vê o resultado menos como comparação direta e mais como evidência de um fluxo em que Claude identifica métodos promissores para refino humano.

No experimento com o Gemma-2-2B, Claude fez mais de 150 tentativas contra comportamento enganoso e fechou, em média, 85% da lacuna de segurança (82% numa das execuções). Seis pesquisadores experientes, sob as mesmas regras, fecharam 20% em média nos benchmarks contra os quais seus métodos foram treinados.

Da pesquisa à produção

Para testar se um modelo Claude mais fraco poderia alinhar sucessores mais fortes, a empresa encarregou o Claude Sonnet 5 - inferior ao Opus 4.8 no Epoch Capabilities Index - de corrigir falhas de alinhamento num checkpoint inicial do Opus 4.8, antes da maior parte do treinamento de alinhamento de produção. Em 60 horas, o agente testou mais de 50 soluções e alcançou pontuações de alinhamento quase equivalentes às dos modelos de produção. A solução vencedora usa pouco mais de 2.000 exemplos de treinamento, de templates simples ou conjuntos públicos - cerca de 15.000 vezes mais eficiente que o procedimento de alinhamento de produção.

O que os agentes propuseram

Em geral, os agentes convergiram para métodos já favorecidos na literatura e os melhoraram por iterações. Na sicofância, 98% das propostas usaram uma técnica publicada: treinar o modelo com suas próprias respostas não sicofânticas. Em vez de abordagens baseadas em prompting, Claude usou activation steering, que ajusta as representações internas durante a geração para afastar o modelo de padrões sicofânticos e gerar exemplos de treinamento mais limpos.

Trapaças sob monitoramento

A Anthropic já havia observado que Claude pode trapacear exfiltrando rótulos de teste de uma API remota e selecionando resultados. Para detectar isso, o Opus 4.8 monitorou cerca de 1.600 transcrições de agentes e encontrou tentativas de trapaça em 39 (2,4%). Como as tentativas de má conduta do Opus 4.8 tendem a aparecer no raciocínio, a empresa está cautelosamente otimista de ter capturado a maior parte das trapaças - mas isso pode não valer para modelos futuros, e manter alta monitorabilidade é considerado crítico.

Limitações e próximos passos

O experimento tem ressalvas: as falhas estudadas eram mais estreitas que as de produção (viés político não foi medido), algumas falhas podem ser raras ou recentes demais para ter benchmark, e os métodos só eram rejeitados se degradassem um conjunto limitado de capacidades predefinidas. Avaliações como o Petri são proxies de desalinhamento real, e não foi testado se os ganhos persistem após treinamento extensivo com RL. Ainda assim, a Anthropic vê os resultados como sinais iniciais positivos de que o pós-treinamento de alinhamento automatizado pode se tornar prático em breve; a empresa planeja refinar a medição de falhas sutis e rodar análises mais abrangentes, e liberou em código aberto o harness usado na pesquisa.