Déficit de confiança: Amodei fala sobre regulação e imagem da IA

Regulação e concentração de poder

Dario Amodei rejeita a ideia de que a sociedade precise escolher entre concentrar a inteligência artificial nas mãos de poucas empresas e políticos por meio da regulação ou distribuí-la amplamente. Para ele, essa é uma falsa dicotomia: processos institucionais objetivos e justos podem limitar o poder corporativo e proteger pessoas vulneráveis, embora os efeitos dependam do conteúdo de cada regra. Em sua avaliação, instituições podem transferir poder de indivíduos para ideias e procedimentos, em vez de deixá-lo sujeito à lógica da “justiça pelas próprias mãos”.

Amodei afirma que a Anthropic procura formular políticas que desacelerem empresas de fronteira e, ao mesmo tempo, favoreçam concorrentes menores. Ele cita o apoio da empresa à SB53 da Califórnia e sua posição ambivalente sobre a SB1047, ambas com isenções para companhias abaixo de determinados níveis de receita ou custo de treinamento. Também menciona a defesa de testes mais rigorosos para modelos de fronteira no CAISI e na Casa Branca, além da proposta “Pacing the Frontier”, cuja implementação preferida pela Anthropic retardaria os modelos mais avançados sem restringir os que tentam alcançá-los. Segundo ele, esse desenho poderia beneficiar desafiantes, inclusive modelos de pesos abertos.

A concentração, porém, seria uma característica estrutural da IA, associada sobretudo às implicações das leis de escala, e não apenas um efeito da regulação. Pesos abertos ajudariam a distribuir capacidade, mas não resolveriam o problema, pois parte da concentração migraria para quem possui mais computação e chips. Amodei defende regras que combinem três objetivos: enfrentar riscos cibernéticos, biológicos e de alinhamento; limitar institucionalmente o poder dos laboratórios de fronteira; e manter espaço para modelos de pesos abertos, levando em conta os riscos específicos deles.

Ele diz apoiar a abordagem atribuída à administração Trump, baseada em testes antes da implantação de modelos de fronteira e também de modelos de pesos abertos quando se aproximarem da fronteira, embora ressalve que precisa conhecer os detalhes. Também apoia a ideia de Demis Hassabis para uma entidade semelhante à FINRA. Amodei contrasta esse cenário com o de seis meses antes, quando, segundo ele, grande parte do setor defendia impedir regulações estaduais sem apresentar uma alternativa federal clara.

Confiança pública e comunicação

Amodei contesta a avaliação de que sua comunicação seja desproporcionalmente negativa. Ele afirma ter produzido um ensaio principal sobre riscos e outro sobre benefícios, além de mencionar frequentemente os ganhos potenciais da IA em entrevistas. Segundo ele, trechos curtos selecionados pelas redes sociais tendem a destacar riscos porque atraem cliques. Seu ensaio “Machines of Loving Grace” teria sido escrito justamente por considerar insuficiente a visão inspiradora do setor sobre o potencial da tecnologia em saúde e biologia; ele sustenta que seria possível curar a maioria das doenças humanas em cerca de cinco a dez anos, embora reconheça que isso possa parecer improvável.

Para Amodei, a percepção negativa da IA decorre principalmente de uma crise de confiança mais ampla: pessoas comuns não confiam em empresas, governos ou no setor de tecnologia e suspeitam de novas formas de prejudicá-las. Campanhas de marketing otimistas não reverteriam esse quadro; resultados concretos, como efetivamente curar doenças, seriam mais persuasivos do que promessas. Ele reconhece que as empresas de IA ainda não cumpriram suas grandes promessas de benefício social e considera essa uma crítica legítima à Anthropic.

A empresa, afirma, está ampliando rapidamente seus esforços em biologia e medicina e espera obter resultados importantes nos próximos anos, além de sinais iniciais nos próximos meses. Até que isso aconteça, Amodei diz preferir não fazer promessas vazias e continuar falando com franqueza sobre riscos reais. Em sua avaliação, essa honestidade pode ser melhor para a credibilidade pública do que ignorar ou disfarçar perigos que as pessoas já consideram plausíveis.