O governador da Califórnia, Gavin Newsom, sancionou uma legislação histórica que estabelece limites rígidos para o uso de sistemas automatizados no ambiente corporativo. A nova norma, conhecida como Lei SB 947 ou “No Robo Bosses Act”, veta a possibilidade de empresas demitirem ou aplicarem medidas disciplinares contra funcionários fundamentando-se unicamente em decisões tomadas por inteligência artificial.

Exigência de revisão humana em decisões corporativas

A legislação determina que, sempre que um sistema de IA for utilizado como ferramenta principal em processos de desligamento ou sanções, a decisão deve passar obrigatoriamente por uma revisão humana. O objetivo é garantir que o resultado automatizado seja validado por gestores, considerando avaliações de desempenho, registros do colaborador e análises de colegas de trabalho.

Para assegurar a transparência, os trabalhadores afetados devem ser notificados por escrito caso a tecnologia tenha desempenhado um papel central na decisão. O comunicado precisa detalhar quais dados pessoais foram processados pelo sistema e fornecer um canal de contato humano para esclarecimentos sobre os motivos da penalidade ou demissão.

Negociação política e ajustes na legislação

O caminho para a aprovação da SB 947 envolveu ajustes estratégicos. O autor do projeto, o democrata Jerry McNerney, precisou retirar exigências anteriores que obrigavam empresas a notificarem funcionários sempre que qualquer ferramenta de IA estivesse em uso, além de remover proteções específicas que geraram resistência de plataformas como Uber e Lyft.

Essas concessões foram fundamentais para viabilizar a sanção, após o governador ter vetado uma versão anterior do texto em outubro do ano passado. Na ocasião, embora concordasse com a necessidade de proteger os trabalhadores, Newsom criticou o que considerou ser uma carga regulatória excessiva para o setor empresarial.

Pioneirismo regulatório nos Estados Unidos

A Califórnia consolida sua posição de vanguarda na regulação de tecnologias emergentes. A medida é considerada a mais abrangente já aprovada nos Estados Unidos sobre o tema, superando iniciativas mais limitadas, como a de Illinois, que exige apenas a notificação do uso de IA em contextos de emprego sem proibir a autonomia total dos algoritmos.

Além da SB 947, o estado reforçou seu arcabouço legal com novas normas para auditorias independentes de sistemas de IA e diretrizes que proíbem o uso de ferramentas de vigilância em banheiros. O movimento acompanha uma tendência de maior escrutínio sobre o impacto da tecnologia no mercado de trabalho, conforme detalhado em análises da CNBC.