DeepMind cria primeira avaliação duplo-cega para modelos de IA

O problema da contaminação de benchmarks

A Google DeepMind apresenta o que descreve como a primeira avaliação duplo-cega do mundo para um modelo proprietário de IA de fronteira. O piloto foi desenvolvido para reduzir o risco de contaminação de benchmark, situação em que um modelo já teve acesso às perguntas ou aos prompts usados no teste e pode apresentar desempenho artificialmente inflado. Nesse caso, a pontuação deixa de refletir com segurança as capacidades reais e o nível de segurança do sistema.

A empresa afirma que avaliações confiáveis são importantes para formuladores de políticas públicas, pesquisadores e empresas. Embora protocolos sem registro de dados e salvaguardas contratuais já mantenham prompts externos em sigilo, a DeepMind argumenta que proteções técnicas e criptográficas podem reforçar a integridade do processo. A companhia também diz que não depende apenas de testes internos: trabalha com laboratórios de pesquisa, organizações da sociedade civil e institutos nacionais de segurança de IA para identificar pontos cegos e submeter seus modelos a testes independentes.

Como funciona o modelo duplo-cego

Historicamente, avaliações externas de alto risco envolviam uma escolha entre duas exposições. Os avaliadores poderiam entregar seus prompts ao provedor do modelo, correndo o risco de revelar as perguntas antes do teste; ou o provedor poderia entregar os pesos do modelo, expondo sua propriedade intelectual. A avaliação duplo-cega pretende eliminar esse compromisso.

Para isso, o piloto usa o Confidential Space, parte do portfólio Confidential Computing do Google Cloud. Segundo a DeepMind, o ambiente permite verificar criptograficamente que os dados da avaliação e o modelo proprietário permanecem privados para seus respectivos donos. Assim, o avaliador não consegue ver os pesos do Gemini, enquanto o Google não consegue ver os prompts usados no teste.

O procedimento será aplicado para testar um modelo Gemini Flash Lite contra benchmarks confidenciais, em um ambiente com preservação de privacidade. A iniciativa reúne a Google DeepMind, o Singapore AI Safety Institute, a OpenMined, a AVERI e a MLCommons.

Objetivo e limites do piloto

A evidência criptográfica foi concebida para dificultar a contaminação dos benchmarks e proteger dados sensíveis. A empresa destaca que isso pode ser especialmente relevante em avaliações de cibersegurança e em testes conduzidos por órgãos governamentais, nos quais a soberania dos dados e a segurança das informações são preocupações centrais. O método também permitiria que organizações independentes avaliassem modelos avançados sem precisar abrir mão de seus dados confidenciais nem exigir a entrega dos pesos do sistema.

A DeepMind espera que o piloto contribua para uma nova abordagem de supervisão de modelos e ajude a indústria a desenvolver sistemas mais seguros, confiáveis e amplamente aceitos. A publicação, porém, apresenta a iniciativa como um teste inicial, e não como uma solução já consolidada para todas as avaliações. A empresa informa que detalhes sobre a metodologia e os resultados estão disponíveis em um relatório técnico.