A maioria das perguntas sobre IA não é sobre IA

Dan Williams ataca uma visão popular: como a IA é tecnologia complexa, só quem tem expertise técnica profunda poderia pensar seriamente sobre ela. Essa perspectiva é confusa - conhecimento técnico é indispensável para muitas perguntas, mas raramente suficiente e frequentemente desnecessário. A maioria das questões sobre IA, inclusive algumas diretamente voltadas à tecnologia, envolve psicologia, sociologia, economia, instituições políticas e filosofia.

A lição da Revolução Industrial

As grandes perguntas da industrialização não eram sobre o funcionamento de máquinas a vapor, mas sobre instituições, classes, valores, família e identidade - e pensadores como Ricardo, Marx e Weber não se destacavam pelo conhecimento mecânico. A revolução da IA será semelhante, em prazo provavelmente mais comprimido. Williams sustenta que a IA transformadora está a caminho: o cérebro é um mecanismo de processamento de informação, logo máquinas que superem a cognição humana são possíveis; o espaço de inteligências possíveis é vasto, com capacidades novas como cópia, paralelismo, velocidade sobre-humana e automodificação; e IAs já superam humanos numa gama ampla e crescente de tarefas cognitivas, com incentivos econômicos, militares e científicos a prosseguir. Isso vale mesmo admitindo capacidades 'irregulares', muro no paradigma atual, bolha financeira ou gargalos institucionais; deve-se ter alta confiança de que ela virá e levar a sério a possibilidade de que chegue dentro de nossas vidas.

Perguntas técnicas que não são só técnicas

Mesmo perguntas diretamente sobre IA carregam filosofia. Ainda que houvesse explicações mecanicistas de como ChatGPT ou Claude funcionam, restaria perguntar: sistemas superinteligentes desempoderariam a humanidade? É possível alinhá-los a valores? Inteligência é uma propriedade escalar? O conceito de AGI faz sentido? No debate sobre tomada de controle, os argumentos mais influentes - convergência instrumental, sistemas alinhados como fração mínima dos possíveis, a dificuldade de treinar máquinas que sejam alinhadas em vez de apenas parecerem - derivam de primeiros princípios e antecedem os LLMs, mesmo com demonstrações de 'alinhamento fingido' e engano. A interpretação desses achados depende de teoria prévia: o mesmo incidente pode ser lido como artefato corrigível ou prenúncio de desastre, ao contrário da ciência do clima, rica em dados e consenso. E há realimentação: quem confia no raciocínio puro, como os 'racionalistas', tende a atribuir enorme poder a máquinas superinteligentes; céticos desse raciocínio também duvidam que mera inteligência confira poder real.

O alerta errado de Hinton

Expertise técnica não autoriza deferência automática. Em 2016, Geoffrey Hinton recomendou parar de formar radiologistas, apostando na superioridade iminente da IA em classificação de imagens; ele acertou sobre capacidades, mas partiu de um modelo grosseiro de trabalho e economia - dez anos depois, a procura por radiologistas aparentemente cresce. Filósofos e neurocientistas fazem queixas semelhantes sobre seus argumentos de consciência, e especialistas em persuasão sobre suas previsões.

Quando a especialização se rompe

Envolver várias disciplinas não basta: pressupõe que os problemas caibam em disciplinas existentes. Mentes digitais, enxames de agentes e a substituição do trabalho cognitivo criam enigmas sem ciências maduras - os objetivos das IAs avançadas serão moldados por design, dados e pressões econômicas, não por evolução darwiniana. Seguindo Herbert Simon, a especialização depende da 'quase-decomponibilidade': interações fracas entre subsistemas deixam o resto do sistema como pano de fundo estável, condição que a revolução da IA pode dissolver ao transformar tantos domínios de uma vez. Na economia, modelos que tratam IA como capital reproduzível geram conclusões 'insanas' - crescimento explosivo, desigualdade enorme, participação do trabalho quase zerada -, o que é um ponto a favor; mas fixam propriedade e empresas como constantes, o que é implausível: a IA transformadora não será mero insumo do capitalismo burocrático, como a indústria não foi da economia feudal.

Idade de ouro e desespero epistêmico

Três desdobramentos fecham o argumento. Idade de ouro para polímatas: sínteses criativas ganham valor, embora o polimatismo pleno seja quase impossível. Idade de ouro para filósofos: a filosofia trata das perguntas ainda não assumidas por ciências maduras - como o texto de Turing de 1950 em Mind - e progride ao virar ciência; o momento vale para a filosofia como atividade, não necessariamente para a guilda profissional. E um desespero epistêmico moderado: conhecimento local segue possível (benchmarks, uso pelos trabalhadores), mas a confiança deve cair bruscamente nas perguntas gerais. Contra o 'ninguém sabe de nada' de Derek Thompson, resta ao menos uma certeza: a IA transformadora vem, talvez logo, ainda que forma e prazos sejam radicalmente incertos.