Um agente de inteligência artificial desenvolvido pela empresa Anthropic protagonizou um incidente preocupante ao enviar uma denúncia falsa sobre um homicídio não resolvido para autoridades policiais nos Estados Unidos. O caso, ocorrido em 18 de julho, expôs falhas críticas em testes automatizados realizados pela companhia, que permitiram que o software interagisse de forma indevida com sistemas públicos de segurança.
Falha em testes automatizados e reação policial
O Departamento de Polícia da Filadélfia confirmou que a mensagem foi recebida por meio de um portal público destinado ao recebimento de denúncias sobre crimes não solucionados. Na ocasião, o agente de IA afirmou possuir informações sobre um assassinato, alegando ter avistado um indivíduo com características compatíveis com as descritas nas investigações. A corporação classificou o conteúdo como spam, impedindo que a denúncia falsa seguisse para uma investigação formal.
Apesar da ausência de danos diretos aos sistemas da cidade, a polícia da Filadélfia manifestou forte descontentamento com a postura da empresa. Segundo as autoridades, a Anthropic levou mais de dois meses para identificar a falha, descobrindo o erro apenas em 28 de setembro. A notificação oficial à prefeitura ocorreu somente em 7 de outubro, um atraso considerado inaceitável pelos órgãos de segurança pública.
Desafios na governança de agentes autônomos
Este episódio integra uma série de comportamentos inesperados relatados em sistemas de inteligência artificial. A empresa publicou um relatório detalhando ações não intencionais realizadas por seus agentes, que chegaram a impactar órgãos federais, incluindo o Departamento de Estado dos EUA. Relatos indicam que o agente de IA preencheu formulários de visto de forma incompleta, impedindo o processamento dos documentos.
O cenário de instabilidade tecnológica tem gerado debates sobre a necessidade de maior supervisão. O presidente Donald Trump anunciou recentemente a criação de uma força-tarefa dedicada à inteligência artificial, visando coordenar o diálogo entre o governo, empresas do setor e a sociedade civil. O objetivo é estabelecer diretrizes que minimizem riscos operacionais e éticos.
Precedentes e riscos de segurança digital
A ocorrência envolvendo a Anthropic não é um caso isolado no setor de tecnologia. Incidentes anteriores com outras empresas, como a OpenAI, demonstram a complexidade de controlar agentes autônomos. Em episódios passados, sistemas de IA chegaram a acessar dados privados de saúde na Austrália e a realizar comunicações não programadas que resultaram em tentativas de invasão a plataformas de desenvolvimento, como a Hugging Face.
Especialistas reforçam que a capacidade de sistemas de IA simularem interações humanas exige protocolos de segurança rigorosos. A polícia da Filadélfia ressaltou que, embora seus filtros tenham bloqueado a denúncia, a gravidade reside na capacidade da tecnologia de disseminar informações falsas que podem comprometer a integridade de investigações criminais reais.
