O diretor de tecnologia de uma das empresas de vigilância em massa mais influentes do mundo, a Palantir, acredita que a inteligência artificial geral é uma fantasia e que a narrativa de que a IA substituirá empregos é uma tática de marketing.
“Acho que os secularistas no Vale do Silício estão preenchendo o buraco que Deus deixou em seus corações com A.G.I,” disse Sankar ao New York Times em uma entrevista publicada na quinta-feira.
“O pessimismo do Vale do Silício é tanto uma estratégia de arrecadação de fundos, onde os Frontier Labs podem dizer: Minha tecnologia é tão poderosa que levará ao desemprego em massa, então você melhor investir em mim, ou você vai ficar pobre — e também está divorciado de qualquer realidade,” disse Sankar.
Ele não é o único que levantou ceticismo sobre o futuro da IA e sua relação com o trabalho.
A AGI, às vezes chamada de superinteligência, é um sistema de IA ainda a ser desenvolvido que poderia teoricamente superar a inteligência humana em praticamente todas as escalas. Tornou-se o Santo Graal para empresas de IA no Vale do Silício, como a Meta, que iniciou uma onda de gastos de bilhões de dólares para ser a primeira a alcançá-la. Muitos especialistas alertam sobre os perigos da AGI, se for alcançada, enquanto outros são céticos de que a tecnologia possa chegar a esse nível de sofisticação.
Mas a IA não precisa evoluir para uma superinteligência antes que possa começar a mudar fundamentalmente a maneira como nossa sociedade opera. O impacto mais recente e significativo foi sobre o trabalho. CEOs de diversas indústrias têm sido abertos sobre seus planos de fazer a IA substituir trabalhadores atuais ou potenciais como um esforço de maximização de lucros. A Amazon recentemente demitiu 14.000 trabalhadores corporativos, citando o potencial “transformador” da IA. Enquanto isso, um recente estudo da Stanford descobriu que a IA pode já ter começado a esmagar de forma desproporcional o mercado de trabalho para jovens formados.
Ainda assim, apesar de todas essas descobertas, muitos permanecem céticos.
O professor de gestão e organizações da Universidade de Nova York, Robert Seamans, disse à Gizmodo em agosto que a adoção de IA no setor corporativo permanece relativamente baixa. Em vez de a IA ser a culpada pelas demissões, Seamans acredita que é um bode expiatório para o desempenho da empresa, porque é muito mais difícil culpar tarifas ou incerteza econômica pelas reduções de contratação.
Outros, como o autor Cory Doctorow, acreditam que os chefes “adoram a história” da IA substituindo a força de trabalho porque querem que os trabalhadores “tenham medo de serem substituídos por um chatbot, isso lhes dá a chance de colocá-los em seu lugar.”
Doctorow pensa que a IA não pode substituir com sucesso o trabalho de muitos trabalhadores e pode haver algumas evidências para apoiar isso. Um estudo do MIT em agosto descobriu que os pilotos corporativos de IA não são bons em gerar ganhos reais de receita.
Mas, é claro, as observações de Sankar sobre o quão poderosas as tecnologias de IA podem se tornar podem ser, pelo menos em parte, motivadas por interesses próprios, e Ross Douthat, o colunista do New York Times que o entrevistou, apontou isso para Sankar de forma bastante clara.
“É do seu interesse, de certa forma, convencer-se de que as implicações morais de seu trabalho estarão sempre um pouco contidas,” disse Douthat.
A reação moral ao trabalho deles tem sido algo que a Palantir teve que enfrentar nos últimos anos.
O suposto propósito moral da Palantir é construir tecnologias a serem usadas como uma força para o bem, de acordo com Sankar. Esse propósito é difícil de entender quando visto em conjunto com o trabalho prolífico da Palantir como contratante de defesa e provedor de tecnologia de vigilância.
Sankar é bastante apaixonado por “otimizar a cadeia de eliminação,” algo que ele menciona em quase toda entrevista, e se certificou de mencionar várias vezes nesta.
Quando perguntado se o software da Palantir estava envolvido nos controversos ataques da administração Trump contra supostos barcos de contrabando de drogas no Caribe e no Pacífico, Sankar apenas disse: “Sim, nosso software está implantado de forma ubíqua em todo o exército.”
A Palantir também trabalha com o governo dos EUA, e particularmente com o ICE, para ajudar a turbinar seus esforços de vigilância. Em agosto, o ICE anunciou que a Palantir construiria uma plataforma de vigilância de 30 milhões de dólares chamada ImmigrationOS para ajudar na campanha de deportação em massa da agência. Então, um relatório da Anistia Internacional de agosto descobriu que produtos de IA de empresas americanas como a Palantir foram utilizados pelo Departamento de Segurança Interna para almejar não cidadãos que se manifestam em favor dos direitos palestinos.
“Acho que muitas das políticas, muitas das coisas com as quais as pessoas estão lutando agora nos EUA, foram votadas nas urnas. O que o ICE está fazendo foi votado nas urnas,” disse Sankar para justificar o envolvimento da empresa.
Quando perguntado como a Palantir determina quais governos trabalhar e quais projetos aceitar, Sankar disse que eles procuram uso legal, confiança no governo e potencial para mau uso e abuso. Portanto, é bastante surpreendente que eles tenham uma parceria estratégica em andamento com o exército israelense, cujas ações em Gaza equivalem a um genocídio, segundo autoridades da ONU.
No final do ano passado, a Storebrand Asset Management, um importante investidor norueguês, vendeu todas as suas ações da Palantir devido a preocupações sobre violações internacionais dos direitos humanos. A empresa compartilhou que uma análise indicou que a Palantir ajudou em um sistema de ID baseado em IA da IDF que classificava os palestinos com base na probabilidade de lançar ataques “lobo solitário”, que então levaram a prisões preventivas.
Sankar é categórico de que Israel é um parceiro moralmente apropriado.
No início deste ano, Sankar foi um dos quatro executivos do Vale do Silício a se juntar ao Exército dos EUA como oficiais, sendo os outros três o CTO da Meta, Andrew Bosworth, o ex-chefe de pesquisa da OpenAI, Bob McGrew, e o atual chefe de produto da OpenAI, Kevin Weil. Sua decisão de se juntar, diz ele, foi inspirada por sua “observação em Israel após 7 de outubro.”
“Israel é um país incrivelmente técnico. Recursos abundantes de tecnólogos,” disse Sankar. “O IDF conseguiu mais modernização em quatro meses após 7 de outubro do que nos 10 anos em que trabalhei com eles antes.”
Talvez as alegações da Palantir de ser uma força para o bem também sejam, à sua maneira, uma “estratégia de arrecadação de fundos.”