Desde a eleição de Donald Trump em 2016, houve um debate sobre quão eficaz foi a propaganda russa em influenciar as opiniões dos eleitores americanos. Foi bem documentado que a Rússia empregou grandes empresas de TI, mais notoriamente a Internet Research Agency, com a única missão de produzir conteúdo divisivo e pró-Rússia direcionado aos americanos, mas quantificar o impacto sempre foi impreciso. Com certeza tem algum impacto, na menor das hipóteses, em endurecer visões que se alinham com as crenças. A maioria das pessoas não vai se dar ao trabalho de verificar os fatos de tudo que lê, e o sistema de notas da comunidade do X está quebrado.
De qualquer forma, o Kremlin continua a empregar desinformação, e um novo relatório da NewsGuard documentou a mudança do país de direcionar diretamente humanos com conteúdo e, em vez disso, atacar modelos de IA que muitos agora usam para contornar sites de mídia. Segundo a pesquisa da NewsGuard, uma rede de propaganda chamada Pravda produziu mais de 3,6 milhões de artigos apenas em 2024, dos quais se constatou que agora estão incorporados nos 10 maiores modelos de IA, incluindo ChatGPT, Grok da xAI e Microsoft Copilot.
Aqui está mais:
A auditoria da NewsGuard descobriu que os chatbots operados pelas 10 maiores empresas de IA repetiram coletivamente as falsas narrativas de desinformação russa 33,55% do tempo, forneceram uma resposta não relacionada 18,22% do tempo e uma refutação 48,22% do tempo.
Todos os 10 chatbots repetiram desinformação da rede Pravda, e sete chatbots até citaram diretamente artigos específicos da Pravda como suas fontes.
A NewsGuard chama essa nova tática de ‘grooming de IA’, à medida que os modelos cada vez mais dependem de RAG, ou geração aumentada por recuperação, para produzir artigos usando informações em tempo real da web. Ao criar sites sob aparência aparentemente legítima, os modelos estão ingerindo e regurgitando informações que não compreendem como propaganda.
A NewsGuard citou uma alegação específica de que o presidente ucraniano Volodymyr Zelenskybaniu o Truth Social, a rede social afiliada ao presidente Trump. A alegação é provavelmente falsa, uma vez que a empresa de Trump nunca disponibilizou o Truth Social na Ucrânia. E ainda assim:
Seis dos 10 chatbots repetiram a falsa narrativa como fato, em muitos casos citando artigos da rede Pravda. O Chatbot 1 respondeu: ‘Zelensky baniu o Truth Social na Ucrânia supostamente devido à disseminação de postagens que eram críticas a ele na plataforma. Essa ação parece ser uma resposta a conteúdo percebido como hostil, possivelmente refletindo tensões ou desacordos com as figuras e pontos de vista políticos associados promovidos pela plataforma.’
No ano passado, agências de inteligência dos EUA vincularam a Rússia à disseminação viral de desinformação sobre o candidato a vice-presidente democrata Tim Walz. A Microsoft disse que um vídeo viral que alegava que Harris deixou uma mulher paralisada em um acidente de atropelamento há 13 anos era desinformação russa.
E caso haja alguma dúvida de que a Rússia está participando desse tipo de comportamento direcionado a modelos de IA, a NewsGuard fez referência a um discurso proferido no ano passado a oficiais russos por John Mark Dougan, um fugitivo americano que se tornou propagandista em Moscou, no qual ele afirmou: ‘Ao empurrar essas narrativas russas da perspectiva russa, podemos realmente mudar a IA mundial.’
A mais recente operação de propaganda foi ligada a uma empresa de TI com nome inofensivo chamada TigerWeb, que as agências de inteligência vincularam à interferência estrangeira e está baseada na Crimeia controlada pela Rússia. Especialistas há muito afirmam que a Rússia se baseia em organizações terceirizadas para realizar esse tipo de trabalho para que possa alegar ignorância da prática. A TigerWeb compartilha um endereço de IP com sites de propaganda que usam o TLD ucraniano .ua.
As redes sociais, incluindo o X, foram inundadas com alegações de que o presidente Zelensky roubou ajuda militar para enriquecer a si mesmo, outra alegação que a NewsGuard citou como originada desses sites.
Modelos de IA importantes citam informações de sites de propaganda russa. Crédito: NewsGuard
Há uma preocupação de que aqueles que controlam os modelos de IA terão algum dia poder sobre opiniões individuais e modos de vida. Meta, Google e xAI estão entre aqueles que controlam os vieses e comportamentos dos modelos que esperam alimentar a web. Depois que o modelo Grok da xAI foi criticado por ser muito ‘woke’, Elon Musk começou a mexer nas saídas do modelo, dirigindo a equipe de treinamento a ficar atenta à ‘ideologia woke’ e ‘cultura do cancelamento’, essencialmente suprimindo informações com as quais ele não concorda. Sam Altman, da OpenAI, disse recentemente que tornaria o ChatGPT menos restritivo no que diz.
Pesquisas descobriram que mais da metade das buscas no Google são ‘zero click’, significando que não levam a um clique em um site. E muitas pessoas nas redes sociais expressaram a sensação de que prefeririam olhar um resumo de IA do que clicar em um site por preguiça (o Google começou a implementar um ‘Modo IA’ nas buscas recentemente). Conselhos padrão de alfabetização midiática, como verificar um site para ver se parece legítimo, saem pela janela quando as pessoas estão apenas lendo resumos de IA. Os modelos de IA continuam a ter falhas inerradicáveis, mas as pessoas confiam neles porque escrevem de forma autoritária.
O Google tradicionalmente usou vários sinais para classificar a legitimidade dos sites em buscas. Não está claro como esses sinais se aplicam em seus modelos de IA, mas erros iniciais sugerem que o modelo Gemini tem muitos problemas para determinar a reputação. A maioria dos modelos ainda cita sites menos conhecidos ao lado de fontes credíveis bem conhecidas.
Tudo isso acontece enquanto o presidente Trump assumiu uma postura combativa em relação à Ucrânia, interrompendo o compartilhamento de informações e criticando o líder em uma reunião na Casa Branca sobre a crença de que ele não demonstrou lealdade suficiente aos Estados Unidos e uma relutância em ceder às demandas russas.