O avanço acelerado da inteligência artificial generativa colocou o sistema judiciário em alerta máximo. Especialistas da OpenAI e da Meta advertiram que a qualidade técnica de vídeos e áudios manipulados, conhecidos como deepfakes, atingiu um nível de sofisticação que torna a distinção entre o real e o artificial um desafio sem precedentes para a justiça.

O alerta foi formalizado durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston. O grupo, que monitora a evolução da tecnologia há três anos, busca estabelecer critérios de confiabilidade para evidências digitais em um cenário onde a manipulação de mídias se tornou acessível e altamente realista.

A evolução da inteligência artificial generativa nos tribunais

A tecnologia por trás da IA generativa permite a criação de conteúdos complexos a partir de comandos simples, superando as capacidades de detecção tanto de observadores humanos quanto de softwares especializados. Shira Anderson, consultora de políticas da OpenAI, destacou que a precisão das imagens geradas evolui constantemente, tornando improvável a existência de um método científico infalível para identificar fraudes no futuro próximo.

Apesar da crescente preocupação, o impacto prático nos tribunais ainda é incipiente. Dados do Centro Federal do Judiciário indicam que, em uma amostra de 931 juízes, apenas 15 relataram casos em que a autenticidade de uma prova foi contestada sob suspeita de ser um deepfake. O juiz federal Jesse Furman, de Manhattan, pontua que, embora a literatura acadêmica preveja uma crise de evidências, a realidade jurídica ainda não reflete uma onda massiva de falsificações.

Limitações técnicas e o desafio das marcas d’água

Empresas de tecnologia têm buscado mitigar os riscos através da implementação de marcas d’água digitais, que sinalizam a origem do conteúdo. Legislações recentes na Califórnia e na União Europeia já tornam obrigatória a adoção desses identificadores. Contudo, a eficácia dessas medidas é limitada pela falta de um padrão universal entre as diferentes plataformas de IA.

Devin Norder, diretor de gestão de produtos da Meta, reforçou à Reuters que a barreira de entrada para a criação de materiais falsos é mínima, exigindo pouco tempo e investimento financeiro. Enquanto o setor busca soluções, a conclusão dos especialistas é de que a verificação de provas digitais continuará sendo um processo sujeito a falhas, exigindo uma adaptação constante das normas judiciais para lidar com a nova realidade tecnológica.