Chamadas de 'agente de IA' da Meta eram feitas por humanos em call center

O que aconteceu

Na semana passada, executivos da Meta anunciaram que o agente de IA Muse ganhara um novo recurso: fazer ligações para empresas em nome do usuário, como reservar restaurante ou agendar corte de cabelo. O engenheiro principal Ryan Fox e o diretor de IA Alexandr Wang divulgaram a expansão do beta de chamadas para empresas dos EUA em 16 de setembro.

Segundo reportagem do 404 Media, com base em comunicações internas, por trás do recurso existe uma "camada de agente humano": Muse pode transferir solicitações para um contratado treinado, que faz a ligação e conclui o pedido. Não está claro com que frequência as chamadas vão para humanos ou quando são feitas apenas por IA.

Reação interna e preocupações de privacidade

Funcionários questionaram as implicações de compartilhar pedidos de chamada com terceiros humanos e a percepção de que a IA da empresa não é avançada o suficiente. Um funcionário escreveu no fórum interno que o recurso tem potencial de "muito negative PR" e poderia retratar a Meta como "nossa IA não é boa o suficiente, então ainda precisam de humanos".

A Meta disse internamente que dados sensíveis passados a terceirizados estavam seguros porque eles passaram por "muita capacitação". Um funcionário rebateu que o treinamento "não é um mecanismo de segurança" e pediu que o recurso não fosse lançado como padrão ativado, alertando que manchetes sobre humanos por trás das chamadas poderiam destruir a boa imprensa do lançamento.

Testadores internos disseram que foi uma "péssima ideia" e relataram casos em que só souberam depois da ligação que quem chamava era humano - ou seja, compartilharam informações presumindo que estavam tratando com uma IA segura.

Histórico e contexto

O caso segue uma tradição recorrente de produtos anunciados como IA em que humanos fazem parte ou todo o trabalho. É também mais um exemplo de big tech repassando informações potencialmente sensíveis a humanos: é possível imaginar alguém pedindo ao Muse para agendar uma consulta médica delicada sem saber que uma pessoa pode fazer a ligação.

Publicamente, o recurso recebeu relatos positivos - como o do pesquisador de IA da Meta Ravid Shwartz Ziv, que disse que o Muse ligou para atendimento, esperou na fila e resolveu o problema - mas também há relatos de falhas e de interlocutores que desligaram.

Um porta-voz da Meta disse que o dogfooding é parte do processo de desenvolvimento, que a resposta dos funcionários foi "majoritariamente positiva" e que o recurso só será lançado quando estiver pronto e "com as devidas divulgações".