O temor generalizado de que sistemas automatizados possam se rebelar e aniquilar a humanidade não encontra respaldo em evidências técnicas ou científicas. Quem faz o contraponto a essa onda de pânico é Meredith Whittaker, presidente da Signal Foundation, entidade mantenedora do conhecido aplicativo de mensagens com foco em privacidade. Para a especialista, o debate público tem sido desviado para cenários de ficção científica enquanto problemas tangíveis e imediatos são negligenciados.
De acordo com a executiva, o verdadeiro perigo reside na implementação descuidada de ferramentas imaturas em setores críticos. “O risco é muito real”, destaca Whittaker. “Mas não tem nada a ver com essas histórias fantasiosas contadas por garotos alarmistas.”
Decisões críticas baseadas em falhas de dados
Um exemplo emblemático dessa vulnerabilidade operacional envolveu os serviços de inteligência norte-americanos, que quase desencadearam uma ofensiva militar após um sistema de inteligência artificial gerar informações falsas sobre uma embarcação chinesa que supostamente carregava material atômico.
Ao analisar a gravidade do episódio, Whittaker é enfática sobre as limitações atuais desses sistemas: “Quase entramos em guerra com a China”. Ela complementa que “um sistema que fornece informações de inteligência falsas e quase provoca uma guerra com a China não pode ser considerado superinteligente, seja qual for o critério adotado.”
A preocupação com o uso bélico dessas plataformas acompanha a carreira da líder do Signal há anos. Sem formação original em computação e graduada em literatura, ela ingressou no Google em 2006. Em 2017, liderou a oposição interna contra o Projeto Maven, iniciativa militar voltada para acelerar a localização de alvos de drones por meio de visão computacional.
Naquela época, a proposta de “encurtar a cadeia de ataque” gerou fortes críticas de Whittaker, que alertou: “Isso vai fazer com que informações de inteligência e dados de má qualidade pareçam confiáveis”. O protesto culminou em uma greve de 20 mil funcionários e na posterior desistência do contrato por parte da gigante de buscas, que acabou repassado à Palantir.
Anos depois, Whittaker aponta o reflexo direto dessas tecnologias em episódios como o bombardeio de uma escola em Minab, no Irã: “Era exatamente isso que estávamos alertando em 2017”. Em resposta, a Palantir afirmou que “não há evidências de que o software da empresa tenha sido responsável por essa terrível tragédia” e frisou que “a Palantir não é responsável pelos dados utilizados pelo sistema nem pela identificação de falhas nas informações de inteligência”. Anteriormente, o diretor da companhia na Europa, Louis Mosley, ressaltou que “sempre há uma pessoa envolvida no processo, portanto a decisão final é sempre tomada por um ser humano”. O secretário de Defesa dos EUA, Pete Hegseth, declarou que as tropas “jamais atacariam alvos civis”.
O impasse sobre a privacidade e pressões governamentais
Além das aplicações militares, o avanço da vigilância governamental sobre ferramentas de comunicação é outra frente de atrito. Autoridades de diversos países, incluindo o Reino Unido sob liderança de Keir Starmer, pressionam pela criação de mecanismos de monitoramento em mensageiros criptografados para coibir crimes cibernéticos contra menores.
Whittaker considera a exigência ineficaz e a classifica como “um sistema sem precedentes de controle das comunicações e das informações”. Se for forçada a enfraquecer a arquitetura de segurança do Signal para permitir bisbilhotice estatal, a postura
About the Author
