Como pesquisar tópicos técnicos com IA de forma estruturada

O método

O autor (0xkato) descreve como usou IA para aprender como LLMs funcionam antes de escrever um artigo sobre o tema. O processo começa com a constatação de que "Como LLMs funcionam?" é amplo demais para pesquisar diretamente. Ele estreitou a pergunta para o que acontece entre o prompt digitado e a previsão do próximo token, o que deu início, fim e ordem ao estudo: tokenização → embeddings → informação posicional → atenção → saída do transformer → loop de geração.

Decomposição e terminologia

Antes de pedir explicações, ele entrega a pergunta estreitada ao modelo e pede que identifique conceitos dependentes, pré-requisitos e ambiguidades. Transforma a resposta numa lista ordenada de investigação. Paralelamente, mapeia a terminologia que lhe falta - por exemplo, "como o modelo sabe qual palavra veio primeiro?" levou a positional encodings, RoPE e métodos de posição relativa. Com os termos corretos, buscas convencionais (papers, docs, código) ficam muito mais produtivas.

Uma parte de cada vez

Em vez de pedir ao modelo que explique o sistema inteiro, ele isola um componente e fica nele até conseguir descrever entrada, transformação e saída. Usa a IA para localizar seções relevantes em papers e implementações, comparar descrições de diferentes tutoriais e, principalmente, submeter sua própria explicação a crítica - pedindo que aponte o que está tecnicamente errado, o que é simplificação razoável e onde a simplificação se torna enganosa. Ele evita pedir reescritas diretas para não aceitar wording novo sem entender por que o seu falhou.

Fonte ≠ explicação

Suas notas separam duas coisas: a afirmação técnica exata com a origem, e a explicação mais simples que fez a ideia "clicar". Para multi-head attention, por exemplo, o paper diz que Queries, Keys e Values são projetados múltiplas vezes com projeções aprendidas diferentes; seu modelo mental era "vistas aprendidas diferentes do mesmo token, não fatias dele". Ele também registra o limite da explicação (implementações podem combinar projeções numa operação maior por eficiência).

O chat não é a fonte

Para qualquer afirmação importante, ele abre o paper, a documentação ou o código diretamente. Verifica quem criou a fonte, se versões posteriores mudaram a conclusão, e se a implementação ainda se comporta como descrições antigas dizem. A IA acelera o rastreamento de fontes, mas cada resultado é aberto antes de ser usado.

Tentar provar a explicação errada

Quando uma explicação faz sentido, ele procura evidência contra ela. Pergunta o que um leitor experiente objetaria, onde o modelo mental para de funcionar, qual palavra é forte demais. No artigo sobre LLMs, dizer que heads de atenção "se especializam" era fácil de entender; dizer que se tornam "parcialmente especializados" era mais correto. Ele muda termos de busca, inspeciona trabalhos posteriores, procura críticas e às vezes submete a explicação a outro modelo ou a um leitor que não viu a discussão anterior.

Fechar o chat e reconstruir

Depois de trabalhar cada parte e desafiar as explicações, ele fecha o chat e tenta reconstruir o tópico do zero, com caneta e papel. Se consegue nomear dois componentes adjacentes mas não explicar o que muda entre eles, encontrou uma lacuna e volta às fontes naquele ponto exato. A pesquisa só termina quando consegue explicar sem emprestar o phrasing da fonte, conectar às partes vizinhas e declarar onde a explicação deixa de ser exata.

Só então escrever

Com a estrutura dominada, notas verificadas e limitações registradas, ele entrega esses materiais ao modelo para ajudar na prosa - nunca pede que a conversa de pesquisa vire artigo diretamente, porque ela contém palpites, becos sem saída e explicações que só serviram como degrau. O rascunho é editado, lido em voz alta via text-to-speech, testado com um leitor sem background em ML, e depois passa por uma verificação factual separada contra as notas e fontes.