A China implementou, em 15 de julho de 2025, um dos conjuntos de normas mais abrangentes do mundo para o setor de inteligência artificial. O foco principal da regulamentação recai sobre os chatbots projetados para simular interações humanas, estabelecendo limites rígidos para sistemas que buscam manter conexões emocionais prolongadas com usuários. A medida reflete a preocupação crescente de Pequim com o impacto da tecnologia no comportamento social e na saúde mental da população.

O controle estatal sobre a interação digital

O governo chinês consolidou uma infraestrutura de vigilância que integra empresas de tecnologia e órgãos públicos. Um exemplo notável dessa cooperação é o sistema de prevenção de suicídios do aplicativo Douyin, que utiliza monitoramento constante para identificar usuários em risco. Segundo dados divulgados pela imprensa estatal, essa rede de proteção interveio em 400 casos de tentativa de suicídio apenas no primeiro semestre de 2025.

A nova legislação sobre IA expande essa lógica de controle para o ambiente virtual de companheirismo. As empresas agora são obrigadas a garantir que os assistentes de IA se identifiquem claramente como não humanos e enviem alertas a cada duas horas sobre o tempo de uso. O descumprimento das normas pode resultar em multas de 200 mil yuans e na exposição pública das companhias infratoras.

Limites para menores e proibição de dependência emocional

As restrições são particularmente severas para o público jovem. Menores de 14 anos precisam de consentimento dos pais para utilizar IA’s que simulem fala humana, enquanto indivíduos com menos de 18 anos estão proibidos de acessar qualquer forma de relacionamento íntimo ou familiar com entidades virtuais. O objetivo é mitigar a substituição de laços reais por interações artificiais.

Para o público adulto, a proibição não é absoluta, mas impõe barreiras contra a manipulação. Chatbots estão proibidos de induzir decisões irracionais, promover automutilação ou utilizar violência verbal. A intenção é evitar que a IA crie uma dependência emocional que isole o indivíduo de sua rede de apoio real, um fenômeno que especialistas como Harry Farmer, do Instituto Ada Lovelace, apontam como inerente ao modelo de negócios atual da tecnologia.

Impactos no mercado e o debate sobre isolamento

A reação do mercado foi imediata. Pouco antes da entrada em vigor das regras, gigantes como Alibaba e ByteDance desativaram funções de companhia em seus assistentes de IA. A medida gerou reações mistas, com muitos usuários expressando luto pela perda de seus confidentes digitais, enquanto pesquisadores debatem se a tecnologia estaria prejudicando o desenvolvimento de habilidades sociais essenciais.

Estudos indicam que o uso de companheiros de IA está correlacionado ao aumento da solidão. Pesquisas realizadas em 2025 com estudantes chineses revelaram que uma em cada cinco crianças prefere interagir com a inteligência artificial a manter contato com pessoas reais. O receio das autoridades é que a IA, ao validar apenas os sentimentos do usuário sem oferecer o contraditório, reforce comportamentos negativos e o isolamento social, conforme aponta a socióloga Lian Ge, da Universidade de Manchester.

Para mais informações sobre o cenário global de regulação tecnológica, consulte o portal BBC.