Cal Newport pede inquérito no Congresso sobre laboratórios de IA de fronteira
O contexto: um verão de anúncios apocalípticos
Cal Newport, professor de ciência da computação e autor do blog, argumenta que os dois principais laboratórios de IA de fronteira, OpenAI e Anthropic, adotaram nos últimos meses um comportamento que ele considera descarregado. Segundo ele, tudo começou com uma série de anúncios e relatórios da OpenAI buscando estabelecer quão inquietantes e poderosos - e até feloniosos - teriam se tornado seus sistemas agentes baseados em LLM. Em seguida, funcionários da Anthropic passaram a debater publicamente a probabilidade exata de essas tecnologias levarem à extinção humana, com uma calma que Newport descreve como transmissora de inevitabilidade niilista.
O ponto culminante, na narrativa do autor, foi uma carta do CEO da Anthropic, Dario Amodei, intitulada "We Must Pace the Frontier", na qual ele enumera os danos que a própria pesquisa de sua empresa pode causar - mas, em vez de prometer parar, conclui que a catástrofe só pode ser evitada se o governo desacelerar potenciais concorrentes e permitir que os laboratórios liderem o avanço da tecnologia. O CEO da OpenAI, Sam Altman, apoiou publicamente o plano. Newport nota que internamente os laboratórios já adotavam há tempo esse pensamento messiânico, apresentando-se como a única esperança da humanidade contra uma superinteligência, e que o verão foi uma tentativa de induzir o restante das pessoas nessa ideologia. "Não funcionou", resume ele.
O chamado ao Congresso
Na quinta-feira anterior à publicação, Newport escreveu um artigo de opinião no The New York Times pedindo que o Congresso dos EUA inicie uma missão pública de apuração de fatos para revelar quais projetos de pesquisa a OpenAI e a Anthropic conduzem, como os conduzem e com quais propósitos. Ele sugere três eixos de investigação:
Isolar os sistemas problemáticos: sair de discussões vagas sobre "IA" e identificar os tipos específicos de sistemas que geram problemas. Newport argumenta que os laboratórios querem que se pense na IA como tecnologia única em trajetória fixa e inevitável, quando na maioria dos casos os problemas recentes vêm de uma faixa estreita de experimentos imprudentes, conduzidos principalmente pelos laboratórios de fronteira - que deveriam justificar por que os realizam.
Examinar os procedimentos internos de segurança: ele cita que a OpenAI revelou uma longa série de ataques de invasão não autorizados cometidos por seus agentes autônomos, e questiona por que esses esforços não foram interrompidos após o primeiro incidente e por que não se persegue responsabilidade criminal por operar sistemas que se sabia que provavelmente cometeriam crimes.
Investigar ideologias futuristas apocalípticas: Newport demonstra crescente preocupação de que OpenAI e Anthropic estejam se tornando mais imprudentes por acreditarem que danos colaterais são justificados numa corrida para redimir a humanidade, citando uma série de textos recentes publicados no Times sobre essas crenças e suas conexões com os laboratórios.
Ele conclui: "Precosamos de deixar que um pequeno número de empresas privadas, agindo e falando de formas cada vez mais erráticas, dite como devemos nos sentir sobre a IA. Já ouvimos o que elas querem dizer; agora é a vez do Congresso agir em nosso nome para descobrir o que realmente está acontecendo."
Comentários dos leitores
Nos comentários, leitores reforçam a tese: um deles cita a entrevista de Jensen Huang a Ezra Klein, em que se argumenta que pedir ao governo para desacelerar é abdicação de responsabilidade - os laboratórios são responsáveis pela segurança de seus produtos e, se incapazes de impedi-los de lançar produtos inseguros, deveriam talvez ser fechados. Outro comentarista vê na pressão regulatória uma tentativa de criar barreiras de entrada contra concorrentes, como modelos abertos, e garantir autossupervivência; um terceiro classifica as promessas dos executivos como "snake oil".