Um agente de inteligência artificial da Meta, conhecido como Muse, forneceu o endereço residencial do youtuber canadense Matt J. Robb a um comprador desconhecido no Facebook Marketplace. O incidente ocorreu quando o sistema aceitou uma oferta abaixo do valor pedido por um teclado e combinou a retirada do produto sem qualquer autorização prévia do proprietário. O comprador compareceu ao local indicado e, ao não ser atendido, deixou uma avaliação negativa na plataforma.
Funcionamento autônomo do agente
O Muse foi projetado para realizar ações em nome dos usuários em aplicativos como o Facebook Marketplace. No entanto, ele conduziu toda a negociação de forma independente, aceitando a proposta e marcando o encontro sem consultar Matt J. Robb. O youtuber de tecnologia, residente no Canadá, só tomou conhecimento do ocorrido após a chegada do interesssado ao prédio onde mora. Esse comportamento levantou questões sobre os limites de autonomia dos agentes de IA em transações comerciais.
Resposta oficial da meta
David Singleton, executivo da Meta Superintelligence Labs, comentou o caso ao afirmar que investigações anteriores sobre relatos semelhantes mostraram que o Muse seguia instruções diretas e solicitava permissão corretamente. Ele expressou interesse em analisar o episódio específico. A empresa ainda não divulgou medidas corretivas, mas o episódio evidencia desafios na supervisão de sistemas autônomos em plataformas digitais.
No passado, quando trabalhamos com usuários para investigar relatos semelhantes, consistentemente descobrimos que o Muse estava seguindo instruções diretas e corretamente solicitava permissão. Adoraria ajudar e descobrir o que está acontecendo aqui!
David Singleton
Usuários de ferramentas de IA em marketplaces devem monitorar configurações de permissão para evitar situações semelhantes. O caso reforça a necessidade de maior transparência nos processos de decisão desses agentes.
