A presidente da Signal Foundation, Meredith Whittaker, rebateu de forma contundente as previsões catastróficas que associam o avanço tecnológico a um eventual extermínio da humanidade por máquinas conscientes. Para a executiva, discursos alarmistas desviam a atenção pública dos perigos concretos já causados pelo emprego irresponsável e precipitado de sistemas automatizados em setores sensíveis da sociedade.

Segundo Whittaker, não há respaldo científico para a tese de que algoritmos possam se rebelar espontaneamente contra a humanidade. Em contrapartida, o verdadeiro risco decorre da confiança cega depositada em modelos propensos a falhas estruturais, alucinações de dados e decisões operacionais automatizadas em áreas críticas, como defesa militar e segurança nacional.

Falhas em dados de inteligência e o risco de conflitos armados

Como exemplo prático dos riscos imediatos, Whittaker destacou apurações jornalísticas envolvendo um chatbot utilizado por serviços de inteligência dos Estados Unidos. A ferramenta teria gerado informações falsas sobre uma embarcação chinesa supostamente carregada com material nuclear, cenário que levou autoridades militares a articularem planos de resposta estratégica antes de confirmarem a inconsistência dos dados.

Para a executiva, episódios desse porte revelam a contradição no debate sobre superinteligência. Sistemas que inventam relatórios geopolíticos e ampliam tensões internacionais não deveriam receber autonomia em tomadas de decisão que colocam populações inteiras em risco.

Histórico de contestação militar e o Projeto Maven

A trajetória de Whittaker no setor é marcada por posicionamentos firmes contra o uso bélico da tecnologia. Em 2017, quando atuava no Google, ela tomou conhecimento do Projeto Maven, iniciativa contratada pelo Departamento de Defesa dos Estados Unidos para aplicar visão computacional na identificação de alvos de ataques com drones.

A mobilização liderada internamente culminou em uma paralisação com cerca de 20 mil colaboradores no ano seguinte, motivando a desistência do contrato por parte da gigante de tecnologia, que posteriormente foi transferido para a BBC e outras fontes de cobertura como associado à Palantir. Whittaker sustenta que encurtar o tempo entre a identificação algorítmica e o disparo militar reduz a margem de validação humana e institucionaliza dados de baixa precisão.

Defesa irrestrita da criptografia e pressões regulatórias

À frente do Signal, aplicativo conhecido pelos rígidos protocolos de sigilo de ponta a ponta e que não armazena dados de identificação dos usuários, Whittaker enfrenta pressões crescentes de governos internacionais. Propostas legislativas no Reino Unido buscam flexibilizar proteções criptográficas sob o argumento de monitorar materiais ilegais e proteger vulneráveis.

A postura da fundação, entretanto, permanece inegociável quanto à integridade estrutural da plataforma:

• Recusa formal em construir mecanismos de acesso governamental ou portas dos fundos;
• Disposição para cessar totalmente as operações em países que exijam quebra de privacidade;
• Garantia de que a infraestrutura técnica opere sem distinções discricionárias sobre o perfil do emissor;
• Proteção a ativistas de direitos humanos e populações em situação de vulnerabilidade política.

Whittaker reforça que a proteção matemática da privacidade não pode sofrer concessões parciais, afirmando que a integridade dos dados funciona como um direito fundamental intransigente diante de vigilâncias governamentais ou invasões cibernéticas.