Nos últimos meses, Elon Musk’s DOGE tentou esvaziar a burocracia federal americana. Após demitir muitos funcionários e tentar reduzir agências proeminentes, o esforço apoiado por bilionários está tentando criar um novo modelo de governança que prioriza a automação. Na sexta-feira, a Wired relatou que, em uma tentativa frustrada de modernizar a agência, um novo bot estilo ChatGPT foi integrado aos fluxos de trabalho dos funcionários da agência.
O Companion de Suporte da Agência deve “ajudar os funcionários com tarefas cotidianas e aumentar a produtividade”, diz um e-mail interno visualizado pela revista. No entanto, o chatbot não parece funcionar muito bem. “Honestamente, ninguém tem realmente falado sobre isso”, disse uma fonte que trabalha na agência à Wired.
O lançamento do aplicativo foi acompanhado por um vídeo de treinamento hilariante e terrível (visto aqui) que envolvia uma mulher mal animada de quatro dedos. O vídeo, que deveria explicar aos funcionários como usar o aplicativo, não informou a eles uma peça crítica de informação: que deveriam evitar enviar informações pessoais sensíveis para o programa. Este descuido obrigou a agência a enviar um e-mail de desculpas aos funcionários que destacou o contexto faltante: “Nossas desculpas pela falta em nosso vídeo de treinamento”, dizia.
“Não tenho certeza se a maioria dos meus colegas assistiu ao vídeo de treinamento”, disse a fonte da SSA à Wired. “Brinquei um pouco com o chatbot e várias das respostas que recebi dele eram incrivelmente vagas e/ou imprecisas.” Eles acrescentaram: “Você podia ouvir meus colegas zombando dos gráficos. Ninguém que conheço está [usando isso]. É tão desajeitado e ruim.”
Se o plano de Musk é automatizar a SSA, há muitas evidências (além do péssimo aplicativo novo) que sugerem que é uma má ideia. De fato, uma tentativa semelhante de automatizar serviços sociais no Brasil mostra por que a dependência excessiva de algoritmos para operar programas de bem-estar pode resultar em piores resultados para todos.
O Rest of the World relata que uma tentativa do governo brasileiro de reduzir a burocracia substituindo funcionários por algoritmos nem sempre produziu os melhores resultados. O Brasil possui um aplicativo, Meu INSS, desenvolvido por uma empresa estatal, a Dataprev, que é projetado para lidar com pedidos de aposentadoria. O aplicativo, que foi lançado em 2018, usa visão computacional e processamento de linguagem natural para analisar documentos enviados ao governo por reclamantes. Infelizmente, o aplicativo tem o hábito de rejeitar pedidos legítimos com base em erros menores. Essas decisões automatizadas podem iniciar longas batalhas legais que levam muitos meses para serem resolvidas.
A publicação documenta a experiência de uma ex-trabalhadora rural, Josélia de Brito, de 55 anos, que solicitou seus benefícios de aposentadoria através do aplicativo, mas foi confundida com um homem pelo sistema automatizado e teve seus benefícios negados. “Tenho todos os documentos que comprovam minha condição de saúde, comprovando tudo, e [o benefício] ainda é negado. É uma humilhação”, disse De Brito à publicação.
Os trabalhadores rurais do país têm lutado com a face cada vez mais digital dos serviços sociais, observa a publicação. “As pessoas aqui não conseguem [nem] trabalhar com Gmail, Facebook, Instagram”, disse Francisco Santana, presidente do Sindicato dos Trabalhadores Rurais de Barra do Corda, ao Rest of the World. “Os processos estão [cada vez] mais automatizados, e a sociedade não estava preparada para isso, especialmente em áreas mais remotas, para pessoas que vivem em áreas rurais.”
As dificuldades de outras nações com a automação são um possível aviso para os EUA, cujos serviços sociais estão atualmente sendo “modernizados” por minions tecnocráticos enviados pela administração Trump. A DOGE tentou desmantelar agências em toda a burocracia federal, incluindo a SSA. Em vez de uma equipe completa, a DOGE buscou instituir uma estratégia “primeiro IA” que cortaria a força de trabalho federal pela metade e substituiria trabalhadores humanos por software. “Tudo que pode ser automatizado por máquinas será. E os tecnocratas substituirão os burocratas”, disse uma pessoa informada sobre as atividades da DOGE recentemente ao Washington Post. Longe de resultar em maior eficiência, no entanto, as mudanças da DOGE até agora ajudaram a provocar disfunção e caos em muitas agências, incluindo a Previdência Social.
De fato, um incidente recente na SSA, em que funcionários da DOGE marcaram “incontáveis” beneficiários vivos como “mortos” e cortaram seus benefícios, é apenas um exemplo. “[Os funcionários da DOGE] entraram no sistema e mataram pessoas”, disse Rennie Glasgow, um analista técnico de reclamações de longa data na agência, ao The Daily Beast. “Cerca de 4 milhões de pessoas, nós os marcamos como mortos. Mas não temos certeza se essas pessoas deveriam ser marcadas como mortas, então estamos enviando um e-mail dizendo: ‘Se essas pessoas vierem ao escritório com sua identificação, você pode reintegrá-las'”, disse Glasgow à publicação.
“Temos que passar por esse longo processo para ressuscitá-las, para trazê-las de volta à vida, o que pode levar cerca de três a quatro dias”, acrescentou Glasgow.
A DOGE também anunciou recentemente que tentaria reescrever toda a base de código da SSA em questão de meses. Fontes sugeriram que, na velocidade alucinante com que planejam trabalhar, a DOGE certamente teria que contar com a IA para fazer isso. Embora escrever código com IA tenha se tornado uma prática mais comum, também é uma que necessita de pesada supervisão devido ao grau em que o software comete erros. Dada a quantidade de erros que os operadores humanos da DOGE cometeram durante sua blitzkrieg do governo, é razoável supor que uma reescrita automatizada da base de código da SSA poderia ser um desastre.
Claro, alguns especulam que cometer erros é o ponto. Esses críticos acreditam que a DOGE não está tentando “modernizar” ou melhorar a SSA, mas está realmente tentando desestabilizar e destruir a agência para que ela possa ser privatizada. Se for esse o caso, então tudo está indo de acordo com o plano.