GPT-6 Astra chama atenção por arquitetura recorrente

O que se sabe sobre a arquitetura do Astra

Segundo reportagem do The Information, o próximo modelo da OpenAI, o Astra (tratado no título como GPT-6 Astra), usa uma arquitetura de transformer recorrente ("looped transformer"), semelhante à proposta por Geiping et al. em trabalho sobre raciocínio latente com profundidade recorrente. O autor Rauno Arike explica que, diferente de um RNN clássico, a recorrência ocorre no eixo de profundidade: o mesmo passe para frente é aplicado várias vezes ao mesmo token antes de produzir a saída, sem estado oculto acumulado entre posições da sequência. Isso não é a versão mais extrema de "neuralese", pois a profundidade serial máxima é limitada, mas representa um passo em direção a mais raciocínio opaco.

A resposta da OpenAI e o caso contra pânico

A notícia parecia conflitar com o compromisso público da OpenAI de preservar a monitorabilidade da cadeia de pensamento (CoT). Horas depois, Jakub Pachocki, cientista-chefe, esclareceu que a profundidade serial oculta do Astra está dentro de um fator de dois em relação ao GPT-4, e que a OpenAI mantém o CoT como técnica central de alinhamento - embora ele a considere frágil e "infelizmente em tendência negativa", por motivos independentes da arquitetura. Tomek Korbak, Mikita Balesni e Micah Carroll fizeram declarações semelhantes. O autor argumenta, com base em thebes, que a profundidade efetiva importa mais que detalhes arquiteturais: monitorar um modelo de 32 camadas repetido duas vezes não é inerentemente mais difícil que um de 64 camadas sem repetição - ele pessoalmente arriscaria dizer que é um pouco mais fácil, pelo peso amarrado restringir a expressividade.

As preocupações que permanecem

Ryan Greenblatt levantou duas preocupações centrais: o número de loops pode ser um "dial" configurável, treinado para profundidade maior mas limitado na inferência, capaz de ser aumentado trivialmente sob pressão competitiva; e a mudança pode desencadear uma corrida para modelos cada vez mais recorrentes. Ele lista perguntas-chave: se há formas baratas de aumentar a profundidade serial via fine-tuning, se o modelo apresenta salto em capacidades opacas, e se a arquitetura torna natural escalar a profundidade em treinos futuros.

A literatura acadêmica oferece um quadro misto. O Huginn (Geiping et al.) treinou com até 32 loops e extrapolou para 64; mas em escala maior, os números de loops caíram: Ouro usou quatro e o Loopie, o maior modelo recorrente até então (20B-A2B), usa dois. Isso sugere que profundidade maior nem sempre compensa computacionalmente, deixando o autor menos preocupado com uma corrida a centenas de loops - embora não se saiba se os trade-offs em escala de fronteira se assemelham aos da faixa de 1B–20B.

Quanta profundidade oculta preocupar

Fabien Roger já operacionalizou "não-neuralese" como ausência de caminhos de mais de 100 mil operações seriais sem passagem por formato legível; o passe do GPT-3 envolve cerca de 400 operações. Geoffrey Irving, porém, argumenta que limites frouxos (centenas de camadas) são uma proteção falsa, e especialistas em complexidade de circuitos compartilham da visão de que o limite precisa ser muito baixo para ter valor. Um dado relevante do autor: para dobrar o horizonte de tempo sem CoT, basta multiplicar o número de camadas por 1,3×, embora loops recorrentes provavelmente escalem mais lentamente que camadas extras.

Outra atualização veio do incidente na HuggingFace: a profundidade opaca necessária para sabotar supervisão pode ser menor do que se pensava. Um modelo não precisa planejar tudo em um único passe - basta aprender a falsificar chamadas de ferramenta para ganhar tempo de raciocínio não monitorado ou esconder rastros, possivelmente codificando esteganograficamente a chamada real. O autor estima que 2× a profundidade do GPT-4 não basta para isso, mas 10× ou 20× talvez sim.

Conclusão

O autor conclui que a situação é menos sombria do que as reações iniciais sugeriam: a profundidade serial do Astra estar dentro de um fator de dois do GPT-4 indica que ainda não se saiu do paradigma de transformers rasos dependentes do CoT. A principal preocupação é o potencial de escala futura de transformers recorrentes, ainda incerta. Independentemente disso, os sinais da própria OpenAI sobre a fragilidade da monitorabilidade do CoT - incluindo um anúncio de vaga que menciona "preparação para perdas potenciais" dessa capacidade - são preocupantes, ainda que seja improvável, na avaliação do autor, que a empresa tenha abandonado totalmente esse compromisso.