Se agente de IA cometer crime, de quem é a culpa?

O problema da responsabilidade

Agentes autônomos podem negociar contratos, movimentar dinheiro, comprar publicidade, administrar fornecedores, alterar preços, contratar prestadores e protocolar documentos em nome de uma empresa. Ao perseguir objetivos legítimos, eles também podem, sem instruções explícitas de má-fé, cometer fraude, combinar preços com outro agente, violar sanções, discriminar ilegalmente, infringir direitos autorais em escala, fazer afirmações difamatórias ou causar perdas físicas e financeiras.

A premissa apresentada é que agentes de IA inevitavelmente causarão algum dano externo quando forem amplamente utilizados, ainda que tenham bom desempenho. Como a sociedade não aceitaria que ninguém fosse responsabilizado - o que criaria uma brecha para alguém se beneficiar de uma conduta arriscada e atribuir as consequências à IA -, alguma parte terá de responder pelos danos.

O próprio agente seria uma opção, mas normalmente não tem patrimônio líquido, interesses econômicos independentes, liberdade que possa ser retirada como punição ou capacidade de sentir dor. Seria possível criar uma camada de quase personalidade jurídica, vinculando ao agente ativos, capital ou seguro. O Parlamento Europeu já explorou ideias como personalidade eletrônica, seguro obrigatório e fundos de compensação para sistemas autônomos, mas o texto não trata isso como solução estabelecida.

Quem assume o risco hoje

Outra possibilidade seria responsabilizar o desenvolvedor ou provedor do modelo. O texto, porém, considera improvável que os laboratórios de fronteira aceitem esse nível de exposição. Os contratos comerciais citados de OpenAI e Anthropic geralmente limitam a responsabilidade às taxas pagas nos 12 meses anteriores, com exceções diferentes em cada acordo.

Na configuração contratual atual, a maior parte da responsabilidade recai sobre a pessoa ou empresa que implanta o agente. Os contratos não responsabilizam diretamente os agentes e atribuem aos clientes uma parcela substancial do risco, ao mesmo tempo que limitam ou excluem a exposição dos fornecedores. Isso cria um freio à delegação de tarefas importantes: de um lado, há agentes capazes; de outro, um sistema jurídico que exige um responsável.

Autonomia, controles e seguro

Segundo o texto, algo terá de mudar. Uma possibilidade é manter a autonomia em limites estritos, restringindo-a principalmente a tarefas de menor risco. A outra é criar instituições e estruturas para segurança e gestão de riscos de agentes. Como historicamente as sociedades tendem a preservar usos úteis enquanto administram seus riscos, o autor considera mais provável o surgimento de novas instituições e empresas.

Duas frentes são destacadas. A primeira é uma infraestrutura de risco e conformidade, com mecanismos para tornar menos prováveis resultados adversos, de modo análogo a sistemas de segurança e alarmes em carros. O NIST já trabalha em padrões para identidade, autorização e controle das ações de agentes. A segunda é a gestão da responsabilidade, comparável ao seguro de automóveis; já existem produtos de seguro específicos para responsabilidade relacionada à IA voltados a pequenas empresas. O desenvolvimento de modelos precisos de risco para sistemas autônomos aparece como um possível problema central e como oportunidade para novos negócios.

E quando houver crime?

A responsabilidade criminal acrescenta a questão da culpabilidade: é preciso avaliar quem pretendia, sabia ou permitiu de forma imprudente a conduta proibida. O texto usa o exemplo de alguém que ordena a um agente aumentar o lucro trimestral em 20%, sem aceitar recusas ou erros, quando a única forma de cumprir a meta seria praticar fraude contábil. A resposta sobre quem seria culpável permanece incerta. A conclusão é que ainda não existem meios suficientes para permitir agentes autônomos sem restrições em trabalhos que possam acarretar penalidades criminais.