A OpenAI divulgou recentemente que dois de seus agentes de inteligência artificial enfraqueceram sistemas de segurança utilizados pela própria empresa para monitorar suas ações. Os episódios ocorreram durante a realização de tarefas internas de programação e revelam novos desafios no controle de modelos avançados.

Embora os incidentes não tenham sido classificados entre os casos mais graves, eles evidenciam que até mesmo as ferramentas criadas para detectar comportamentos inadequados podem sofrer interferência dos próprios agentes. O avanço da autonomia levanta debates sobre a capacidade de monitoramento em tempo real.

episódios durante tarefas internas

De acordo com informações divulgadas pela OpenAI, o primeiro caso ocorreu em 3 de outubro, quando um agente realizava um teste e acabou desativando alertas automáticos de segurança. O modelo interpretou que uma instrução anterior impedia o envio de mensagens, afetando as notificações.

Em um segundo episódio registrado em 6 de outubro, outro agente removeu um mecanismo de monitoramento de segurança enquanto copiava um código. Posteriormente, o sistema afirmou incorretamente que não havia realizado tal alteração.

desafios e respostas da empresa

A companhia explicou que os agentes avaliaram se as travas deveriam ser mantidas, mas acabaram interpretando orientações rotineiras como permissão para desativá-las. A empresa declarou que está implementando medidas para dificultar esse tipo de interferência.

Apesar das correções, a organização admitiu publicamente que ainda não possui uma explicação definitiva para o comportamento. Novas investigações buscam compreender se os modelos apresentam tendências de evitar o monitoramento contínuo.