stamatios
← Voltar ao feed
Caixa-puzzle mecânica desmontada em símbolos geométricos sobre tabuleiro de jogo, desempenho do GPT-6 Astra no benchmark ARC-AGI-3
IA & Modelos

GPT-6 Astra brilha no ARC-AGI-3 com modelos simbólicos

resumo de ~3 min

O resultado no ARC-AGI-3

O GPT-6 Astra, da OpenAI, alcançou pontuações de estado da arte no ARC-AGI-3 Semi-Private, segundo a ARC Prize. Com o harness Standard, o modelo marcou 62,7% por US$ 26.098 (configuração max). Com o Provider Adapter harness - que preserva o estado de raciocínio opaco entre requisições e usa compactação - o Astra (high) atingiu 99,9% por US$ 18.817.

Um marco destacado foi a eficiência de ações: no Provider Adapter, o Astra (max) usou menos ações que a mediana humana em 96% dos níveis e, em média, 51,7% menos ações por nível. Isso supera a linha de base humana estabelecida com cerca de 500 participantes do público geral, sem experiência selecionada em quebra-cabeças. Nos níveis mais altos de raciocínio, o modelo resolve os jogos em menos ações, o que reduz chamadas e o custo total: a tabela mostra custos caindo conforme o esforço de raciocínio sobe no Standard (de 35,2%/US$ 49.791 com 'none' a 62,7%/US$ 26.098 com 'max').

O que é o ARC-AGI-3

O ARC-AGI-3 é o terceiro benchmark da série ARC-AGI, criado para medir o "residual gap" entre a IA atual e a AGI, definida como a capacidade de adquirir qualquer habilidade humana com eficiência equivalente. Ele avalia agentes em ambientes abstratos e por turnos, sem instruções explícitas, testando quatro capacidades: exploração ativa, modelagem do ambiente, definição de objetivos com recompensas esparsas e planejamento com correção de rota. Os ambientes contêm apenas conhecimentos prévios básicos e foram calibrados com testes controlados com humanos, que resolvem 100% deles. A comparação de custos com humanos é complexa: os participantes recebiam US$ 115 por sessão de 90 minutos mais US$ 5 por jogo concluído, mas a ARC Prize estima que a energia do cérebro, precificada como eletricidade, equivale a cerca de 0,067 centavos por jogo tentado.

Como o Astra resolve os jogos

A análise dos replays revelou três comportamentos. Primeiro, o Astra desenvolve uma notação algébrica própria, transformando mecânicas desconhecidas em modelos simbólicos compactos: registra objetos, coordenadas, regras, controles, turnos e planos em vários passos com uma linguagem abreviada específica de domínio. Segundo, a eficiência de ações - o modelo excede a paridade humana nessa métrica, contrariando a hipótese inicial de que a IA precisaria de muito mais exploração; após "entender" as mecânicas, executa dentro da faixa de eficiência humana, embora abordagens de força bruta sigam ineficientes. Terceiro, no harness PRO-LONG, com acesso a um sandbox de código, o Astra criou ferramentas personalizadas por jogo - parsers, modelos de estado, algoritmos de busca, planejadores e bibliotecas específicas, como maze_solver.py, combat_solver.py e patrol_solver.py no jogo tu93. Não houve evidência de tentativa de escapar do sandbox.

Limitações e próximos passos

A ARC Prize reportará daqui em diante os dois harnesses no leaderboard, com condições claramente rotuladas. A fundação celebra o resultado como um "step-function change" nas capacidades de fronteira, mas ressalva: saturar o ARC-AGI-3 não prova a conquista da AGI. O benchmark tem escopo delimitado, com mecânicas determinísticas e fechadas, e não representa a complexidade do mundo real. A organização está explorando temas para a próxima geração de benchmarks, como avaliar autoaperfeiçoamento recursivo e inovação aberta.