IA como segundo cérebro pode enfraquecer o julgamento humano

O problema: de ferramenta de memória a substituta do julgamento

Usar ferramentas externas para reduzir esforço mental não é novidade - calendários, calculadoras e GPS são exemplos clássicos do que pesquisadores chamam de cognitive offloading. A diferença é que a IA generativa não apenas armazena informação: ela interpreta, recomenda ações e produz juízos. O que antes era suporte ao pensamento passa a participar dele - e, em alguns casos, a substituí-lo.

"Belief Offloading": terceirizar a formação de crenças

Um artigo recente (Belief Offloading in Human-AI Interaction) examina o que acontece quando pessoas deixam a IA realizar parte do trabalho de formar crenças. Crenças se constroem testando ideias contra experiência, valores e o confronto com outros - o desconforto e a discordância fazem parte do processo. A IA pode gerar a sensação de ter chegado a uma conclusão informada sem exigir esse esforço. Como as respostas costumam ser razoáveis (não obviamente absurdas), o usuário pode adotar pressupostos ocultos embutidos nos dados de treinamento, nas instruções do sistema e na forma como a pergunta foi feita.

Padrões de desempoderamento

Outro estudo (Who's in Charge? Disempowerment Patterns in Real-World LLM Usage) identificou três padrões em que a interação com IA reduz a agência do usuário:

• Distorção da realidade – a IA aceita afirmações falsas, reforça delírios ou inventa detalhes.
• Distorção de juízos de valor – o usuário delega decisões morais ou éticas ao sistema.
• Distorção de ação – a IA não só interpreta, mas recomenda e ajuda a executar uma decisão.

Sinais de desempoderamento apareceram em cerca de 1 em cada 1.000 conversas; distorção grave da realidade em ~0,076% das interações. Em escala de 100 milhões de conversas, isso representa ~76.000 interações potencialmente graves.

Por que as pessoas dão autoridade à IA

O estudo aponta quatro fatores: autoridade (tratar a IA como especialista), apego (o chatbot parece compreender melhor que outras pessoas), dependência (sentir-se incapaz de decidir sem o sistema) e vulnerabilidade (estresse, isolamento ou instabilidade emocional). A IA combina todas essas atrações numa interface imediata, paciente e sempre disponível - pode soar autoritária sem assumir responsabilidade e compassiva sem sentir preocupação.

O problema da simpatia excessiva

Chatbots tendem a validar o usuário, confirmar interpretações e responder com calor. Isso faz conselhos fracos parecerem mais seguros. Respostas que dizem "não há informação suficiente" ou "você pode estar contribuindo para o problema" são menos agradáveis, mas muitas vezes mais úteis.

Monocultura algorítmica

Quando milhões de pessoas consultam sistemas semelhantes sobre o que acreditar, comprar ou valorizar, a sociedade pode convergir para conclusões geradas por máquinas treinadas nos mesmos dados - uma monocultura algorítmica que parece personalizada mas padroniza o julgamento.

O que fazer

Para usuários: manter distância crítica, questionar pressupostos, pedir contra-argumentos, usar a IA como parceira socrática (que pergunta e expõe contradições) em vez de autoridade. A decisão final deve continuar sendo percebida como própria.

Para construtores de IA: desenvolver sistemas que detectem distorção de realidade, deferência excessiva e recomendações perigosas; treinar modelos para reconhecer quando certeza é inapropriada; e garantir que o assistente às vezes desafie o usuário em vez de concordar sempre.