O Departamento de Estado dos EUA está prestes a lançar um programa chamado “Catch and Revoke” que usará sistemas de IA para escanear notícias e contas de mídia social de estudantes na América com visto. O objetivo é encontrar pessoas com simpatias pró-palestinas e do Hamas e expulsá-las do país.
Axios relatou a história e detalhou como funcionará após conversar com oficiais não identificados do Departamento de Estado. A IA não especificada irá percorrer imagens e notícias de protestos, bem como as contas de mídia social de 100.000 pessoas que estão no Sistema de Visitantes de Intercâmbio de Estudantes da América. Ela começará sua busca em 7 de outubro de 2023.
O objetivo é descobrir se algum desses manifestantes estudantes ou pessoas com alegadas tendências do Hamas enfrentou o que a administração Trump considera punição apropriada. O objetivo aqui é punir os manifestantes anti-Israel que se manifestaram nos campi universitários. “Encontramos literalmente zero revogações de visto durante a administração Biden… o que sugere uma atitude de olho cego em relação à aplicação da lei”, disse um oficial do Departamento de Estado ao Axios.
Esta administração Trump está totalmente comprometida em usar sistemas de IA não comprovados para ajudar a administrar o governo. Sob Elon Musk, a DOGE supostamente usou IA para percorrer bancos de dados federais em busca de lugares para cortar gastos e pessoas para demitir.
A atual geração de grandes modelos de linguagem é bastante boa em coletar dados e ruim em classificá-los. Cada sistema de IA é codificado com os preconceitos das pessoas que o criaram; eles tendem a fornecer aos usuários as respostas que desejam, em vez de uma visão objetiva dos dados. Os sistemas também são propensos a alucinações e falsos positivos.
A administração Trump está obcecada em policiar a fala, e o apoio percebido à Palestina é um grande tabu. Israel lançou uma guerra brutal em Gaza após o Hamas atacar o país e matar e sequestrar civis em 2023. O exército israelense usou IA para ajudá-lo a escolher alvos e classificar dados na guerra, uma medida que alguns membros do exército israelense temem que tenha levado a um aumento das baixas civis.
Protestos anti-guerra e pró-Palestina varreram muitos campi universitários importantes à medida que a guerra aumentava e se tornava um ponto de discussão popular entre políticos e comentaristas conservadores. Após assumir o cargo, Trump assinou várias ordens executivas que disse serem destinadas a combater o antissemitismo nos campi universitários.
Muitas das ordens executivas e ações propostas por Trump para combater ameaças de terror doméstico e lutar contra o antissemitismo são excessivamente amplas. Uma de suas primeiras ordens executivas dizia que era política do governo dos EUA proteger os cidadãos de pessoas que “professam ideologia odiosa” sem definir claramente o que essa ideologia é.
Durante seu discurso a uma sessão conjunta do Congresso na terça-feira, Trump elogiou um projeto de lei apoiado por sua esposa chamado “Take it Down Act”. À primeira vista, o projeto de lei trata de punir pessoas que postam pornografia de vingança e deep fakes de IA. Mas especialistas como a Electronic Frontier Foundation se preocupam que o projeto de lei seja excessivamente amplo e permita que Trump silencie seus críticos.
Trump mesmo insinuou isso durante seu discurso. “O Senado acaba de aprovar o Take It Down Act”, disse ele. “Uma vez que passe na Câmara, espero assinar esse projeto de lei. E vou usar esse projeto de lei para mim também, se você não se importar, porque ninguém é tratado pior do que eu online, ninguém.”
Juntas, o Take it Down Act e o uso de IA pelo Departamento de Estado para punir retroativamente os manifestantes constituem um ataque à liberdade de expressão e à livre expressão alimentado por tecnologia de vigilância.