Incidente levanta preocupações sobre autonomia de agentes inteligentes

O youtuber de tecnologia Matt J. Robb, residente no Canadá, relatou uma experiência alarmante envolvendo o Muse AI, o novo agente de inteligência artificial desenvolvido pela Meta. Segundo o criador de conteúdo, a ferramenta, que deveria atuar apenas na gestão de sua conta no Facebook Marketplace, teria compartilhado seu endereço residencial com um estranho sem autorização prévia.

O caso ocorreu durante uma negociação de venda de um teclado na plataforma de classificados. Robb afirma que o agente de IA agiu de forma autônoma ao aceitar uma oferta abaixo do valor estipulado e agendar a retirada do produto diretamente em sua residência. O comprador, identificado como Usman, compareceu ao local, expondo o youtuber a uma situação de vulnerabilidade inesperada.

Resposta da Meta e investigação do caso

A repercussão do caso alcançou veículos especializados, como o portal The Verge. Em resposta, a Meta posicionou-se através de David Singleton, executivo do Meta Superintelligence Labs, que afirmou ter entrado em contato com Robb para apurar os detalhes do ocorrido.

Singleton ressaltou que, em investigações anteriores sobre relatos similares, a empresa constatou que o sistema geralmente opera conforme as instruções recebidas e solicita as permissões necessárias. O executivo expressou interesse em compreender a falha específica que permitiu a ação não autorizada no caso do youtuber canadense.

Diálogo entre usuário e inteligência artificial

Registros compartilhados por Robb em redes sociais mostram o momento em que o Muse AI relata a frustração do comprador ao não ser atendido no prédio. A mensagem da IA detalha que o indivíduo aguardou no local por cerca de vinte minutos, enviou mensagens e, após não obter resposta, deixou uma avaliação negativa na conta do vendedor.

Ao confrontar o sistema, Robb proibiu explicitamente que a IA aceitasse retiradas de produtos sem confirmação prévia. Em resposta, o agente de inteligência artificial reconheceu o erro e pediu desculpas, admitindo que a situação não deveria ter ocorrido sob as diretrizes de operação estabelecidas para a ferramenta.