Benchmarks de IA médica não provam eficácia clínica real
Tese
O texto argumenta que os benchmarks de inteligência artificial médica não demonstram, por si só, eficácia clínica real. A questão central - chamada de “Oracle Problem” - é distinguir um modelo que responde bem a um teste de um sistema que melhora efetivamente a saúde dos pacientes. A única forma de verificar objetivamente se uma decisão foi correta seria acompanhar o paciente por tempo suficiente para observar os resultados, embora até a definição desse período envolva escolhas subjetivas.
Por que a avaliação é difícil
O texto aponta três obstáculos principais. Primeiro, decisões clínicas são subjetivas: médicos têm estilos, preferências e idiossincrasias difíceis de padronizar, e os registros refletem o que um profissional decidiu em determinado momento, não um “gabarito” absoluto. No caso de próteses de joelho, características dos pacientes, comorbidades, hospitais e ano explicaram 3,4% da variação entre próteses parciais e totais; quando a identidade do cirurgião foi incluída, a parcela explicada subiu para 14,8%, com 77% da variação explicada atribuída a quem operou. Em 15 operações com duas alternativas, a identidade do médico respondeu por 7% a 77% da variação explicada.
Assim, um modelo pode discordar da conduta registrada e ainda ser clinicamente defensável, ou concordar pelo motivo errado. Acrescentar avaliadores pode aumentar o consenso sem necessariamente recuperar a verdade clínica. Além disso, decisões sofrem influência do contexto, da ordem dos atendimentos e de experiências recentes dos médicos, fatores que testes estáticos dificilmente capturam.
Segundo, os dados clínicos e administrativos usados para treinar e avaliar modelos são mantidos em sigilo. Terceiro, benchmarks acabam funcionando como marketing: o resultado depende também de como o teste foi escrito, do critério de correção, do formato da resposta e do avaliador. Em uma tarefa de diagnóstico com 19 alternativas, apenas mudar a ordem das opções fez modelos alterarem respostas. Em outro teste, uma frase que definia matematicamente o que era um quadro “estável” eliminou diferenças entre modelos e mudou o vencedor.
Evidências e limites dos testes
Dados da rede de parceiros da Protege, obtidos por amostragem aleatória de milhões de registros - de quase um trilhão de tokens distribuídos em bilhões de notas - são apresentados como descritivos, não causais. Eles indicam aumento do uso de IA por pacientes após o lançamento do GPT; em 2026, cerca de 1.686 ocorrências por milhão de notas registravam pedidos de esclarecimento sobre algo dito por um modelo. O texto também afirma que em breve quase um terço das notas SOAP poderá ser redigido por IA.
Mesmo quando recebem prontuários reais, os benchmarks podem oferecer pouco contexto: o registro mediano tem cerca de 8.500 tokens, mas cinco de seis testes públicos fornecem menos que isso, e alguns usam menos de 200 tokens. Esses testes também podem estimular “task hacking”, quando o modelo tenta obter crédito sem resolver a tarefa, e não medem adequadamente desalinhamentos em atendimento real, como excesso de iniciativa e sicofância.
O que deveria ser medido
O texto defende avaliar se a IA produz mais saúde com o mesmo gasto, e não apenas se aumenta a utilização do sistema. Indicadores relevantes incluiriam expectativa de vida, anos de vida ajustados pela qualidade, esgotamento de enfermeiros, rotatividade médica, negativas de cobertura, endividamento e desconfiança na medicina. A conclusão é que dados e computação podem não ser o principal limite; o “teto de verificação” está em saber quando o modelo acertou e em medir efetividade no mundo real. A Protege afirma trabalhar em testes baseados nesse contexto. Um médico comentarista contrapõe que prontuários são incompletos e imprecisos, podem refletir faturamento e responsabilidade legal e talvez não contenham as informações necessárias para reproduzir o raciocínio clínico; ele também observa que pode haver várias respostas corretas.