IA deve ser distribuída ou concentrada? Debate sobre superinteligência

Acesso individual como princípio

Mark Zuckerberg defende que a questão decisiva da superinteligência não é se ela existirá, mas quem terá acesso a ela. Em vez de concentrar sistemas capazes de superar a capacidade humana em poucas instituições, ele propõe distribuí-los amplamente como ferramentas de autonomia individual. A filosofia apresentada se apoia em três princípios: empoderamento das pessoas como fonte de prosperidade, invenção como principal finalidade da superinteligência e equilíbrio de poder como base da segurança.

O argumento parte de uma crítica ao pessimismo de parte dos desenvolvedores de IA. Zuckerberg questiona por que alguém que acredita que a tecnologia eliminará a maior parte dos empregos e reduzirá a relevância humana desejaria acelerar esse futuro. Para ele, a ideia de que a IA seria tão perigosa a ponto de exigir uma concentração extrema de poder também é arriscada. A experiência histórica, afirma, não mostra resultados seguros ou positivos quando se deposita poder absoluto na expectativa de que ele seja exercido benevolentemente.

O autor compara a possível transformação da IA a avanços anteriores que inicialmente provocaram o temor de que pessoas fossem deixadas para trás. Segundo ele, esses momentos acabaram ampliando prosperidade, saúde e liberdade, e os mesmos resultados poderiam ocorrer com a IA se valores como liberdade, investigação aberta, livre iniciativa e igualdade de oportunidades orientarem seu desenvolvimento. Ideias decisivas, acrescenta, frequentemente surgiram fora de instituições estabelecidas; com ferramentas mais poderosas à disposição de todos, cada pessoa poderia ter mais capacidade de influenciar o futuro.

Invenção, segurança e pluralidade

Zuckerberg sustenta que a maior contribuição da superinteligência será a invenção, não a automação. Sistemas atuais respondem a perguntas e executam tarefas rotineiras, mas os próximos sistemas deverão ajudar a descobrir conhecimento, como novos medicamentos ou formas de aprimorar negócios. Como o número de perguntas que uma pessoa pode fazer é limitado, ele considera potencialmente ilimitado o número de invenções úteis que a superinteligência poderia produzir para alcançar objetivos individuais.

Ele rejeita a ideia de que a própria superinteligência, ou um pequeno grupo de especialistas que a controle, deva decidir o que é melhor para a humanidade. Como não existe uma definição única de vida boa nem uma cultura homogênea, qualquer sistema singular teria de priorizar alguns valores em detrimento de outros e não poderia ser benevolente para todos. A distribuição ampla funcionaria, em sua visão, como mecanismo de freios e contrapesos: se apenas algumas instituições possuíssem superinteligência, elas exerceriam influência sobre economia, ciência e política; se todos tivessem acesso, as pessoas poderiam limitar mutuamente o poder de instituições maiores. A analogia proposta é a de um advogado superinteligente: sua exclusividade criaria uma vantagem injusta, enquanto o acesso universal poderia tornar a Justiça mais justa e eficiente.

Economia e próximos passos

O texto reconhece que riscos exigem atenção. Em áreas como cibersegurança, Zuckerberg afirma que a história do software de código aberto indica que o acesso amplo a sistemas poderosos pode ser a melhor proteção no longo prazo. Para riscos biológicos, porém, considera útil maior coordenação entre governos e outras instituições na implantação responsável de modelos capazes.

Na economia, ele distingue a IA usada para automatizar da IA usada para ampliar habilidades e criar empresas. Se a automação predominar, o impacto sobre empregos e economia poderá ser negativo. Se a superinteligência for amplamente distribuída, ele acredita que haverá mais empregos, negócios poderão ser iniciados com menos capital e a economia poderá se tornar mais empreendedora, com mais pessoas trabalhando em pequenas empresas. A Meta afirma estar comprometida com esses princípios e Zuckerberg conclui com otimismo sobre a possibilidade de construir um futuro positivo para todos.