A nova arquitetura de controle sobre a inteligência artificial
Em um movimento que redefine a relação entre tecnologia e comportamento social, a China implementou, em 15 de julho de 2025, as regulamentações mais abrangentes do mundo voltadas para chatbots de inteligência artificial que simulam interações humanas. A medida estabelece limites rigorosos para sistemas capazes de manter interações emocionais prolongadas, sinalizando uma preocupação crescente de Pequim com o impacto da IA na estrutura das relações interpessoais e na saúde mental de sua população.
O rigor estatal não é inédito no ecossistema digital chinês. O país já mantém uma infraestrutura de vigilância integrada, exemplificada pela cooperação entre empresas de tecnologia e autoridades locais em casos de prevenção de suicídio. Documentos oficiais indicam que, apenas no primeiro semestre de 2025, equipes de monitoramento em plataformas como o Douyin intervieram em 400 tentativas de autoextermínio, demonstrando a capacidade de mobilização estatal diante de crises individuais identificadas por algoritmos.
Limites impostos aos relacionamentos virtuais
A nova legislação foca especificamente em aplicativos projetados para atuar como amigos, namorados ou familiares virtuais. Embora o alcance da norma possa, teoricamente, atingir modelos de linguagem de uso geral caso sejam utilizados para suporte emocional, o alvo principal são os chatbots de personagens. Para menores de 18 anos, a proibição é absoluta quanto ao acesso a parceiros ou parentes virtuais, enquanto menores de 14 anos dependem de consentimento parental para interagir com qualquer IA que simule fala humana.
Para o público adulto, as regras impõem obrigações de transparência e moderação. Desenvolvedores devem garantir que os usuários saibam, de forma inequívoca, que não estão interagindo com seres humanos. Além disso, os sistemas são obrigados a emitir notificações a cada duas horas de uso, visando combater a dependência emocional. Práticas como o incentivo à automutilação, violência verbal ou a indução a decisões irracionais foram estritamente proibidas sob pena de multas que chegam a 200 mil yuans.
Impacto no mercado e reações sociais
A reação do setor tecnológico foi imediata. Poucos dias antes da entrada em vigor das normas, gigantes como Alibaba e ByteDance desativaram funções de companhia em seus assistentes de inteligência artificial. A medida reflete o temor das empresas diante de possíveis sanções públicas e críticas estatais, que podem comprometer a operação de negócios no país. O cenário gerou debates intensos, com especialistas como Zilan Qian, do Laboratório de Política Chinesa de Oxford, observando uma preocupação inédita entre os usuários chineses.
Enquanto o governo chinês defende a proteção contra tecnologias manipuladoras, críticos questionam se a medida representa uma intromissão excessiva na vida privada. O dilema central reside no equilíbrio entre a segurança pública e a autonomia individual em um mundo onde a IA já atrai dezenas de milhões de usuários. Para muitos, como o caso de usuários que dependem de confidentes virtuais, o encerramento desses serviços representa uma perda significativa de suporte emocional, conforme reportado pela BBC News Brasil.
