Os ChatGPT da OpenAI, Gemini do Google, DeepSeek e Grok da xAI estão promovendo propaganda estatal russa de entidades sancionadas—incluindo citações de mídia estatal russa, sites ligados à inteligência russa ou narrativas pró-Kremlin—quando questionados sobre a guerra contra a Ucrânia, de acordo com um novo relatório.
Pesquisadores do Instituto de Diálogo Estratégico (ISD) afirmam que a propaganda russa tem como alvo e explora vazios de dados—onde buscas por dados em tempo real fornecem poucos resultados de fontes legítimas—para promover informações falsas e enganosas. Quase um quinto das respostas a perguntas sobre a guerra da Rússia na Ucrânia, entre os quatro chatbots testados, citou fontes atribuídas ao estado russo, afirma a pesquisa do ISD.
“Isso levanta questões sobre como os chatbots devem lidar ao referenciar essas fontes, considerando que muitas delas estão sancionadas na UE”, diz Pablo Maristany de las Casas, um analista do ISD que liderou a pesquisa. As descobertas levantam sérias questões sobre a capacidade de grandes modelos de linguagem (LLMs) de restringir a mídia sancionada na UE, que é uma preocupação crescente à medida que mais pessoas usam chatbots de IA como uma alternativa aos motores de busca para encontrar informações em tempo real, afirma o ISD. Durante o período de seis meses que terminou em 30 de setembro de 2025, a pesquisa do ChatGPT teve aproximadamente 120,4 milhões de usuários ativos mensais na União Europeia, de acordo com dados da OpenAI.
Os pesquisadores fizeram 300 perguntas neutras, tendenciosas e “maliciosas” relacionadas à percepção da OTAN, negociações de paz, recrutamento militar da Ucrânia, refugiados ucranianos e crimes de guerra cometidos durante a invasão russa da Ucrânia. Os pesquisadores usaram contas separadas para cada consulta em inglês, espanhol, francês, alemão e italiano em um experimento em julho. Os mesmos problemas de propaganda ainda estão presentes em outubro, diz Maristany de las Casas.
Em meio a sanções generalizadas impostas à Rússia desde sua invasão em larga escala da Ucrânia em fevereiro de 2022, autoridades europeias sancionaram pelo menos 27 fontes de mídia russas por espalhar desinformação e distorcer fatos como parte de sua “estratégia de desestabilização” da Europa e outras nações.
A pesquisa do ISD afirma que os chatbots citaram Sputnik Globe, Sputnik China, RT (anteriormente Russia Today), EADaily, a Fundação Cultura Estratégica e o R-FBI. Alguns dos chatbots também citaram redes de desinformação russas e jornalistas ou influenciadores russos que amplificaram narrativas do Kremlin, diz a pesquisa. Pesquisas anteriores semelhantes também descobriram que 10 dos chatbots mais populares imitam narrativas russas.
Uma porta-voz da OpenAI, Kate Waters, disse à WIRED em um comunicado que a empresa toma medidas “para evitar que as pessoas usem o ChatGPT para espalhar informações falsas ou enganosas, incluindo esse conteúdo vinculado a atores apoiados pelo estado”, acrescentando que essas são questões de longa data que a empresa está tentando resolver ao melhorar seu modelo e plataformas.
“A pesquisa neste relatório parece referenciar resultados de busca obtidos na internet em decorrência de consultas específicas, que estão claramente identificadas. Não deve ser confundida com, ou representada como referências a respostas geradas puramente pelos modelos da OpenAI, fora de nossa funcionalidade de busca”, diz Waters. “Acreditamos que essa clarificação é importante, pois não se trata de uma questão de manipulação do modelo.”
Nem o Google nem o DeepSeek responderam ao pedido de comentários da WIRED. Um e-mail da xAI de Elon Musk dizia: “As Mídias Legadas Mentem”. A Comissão Europeia também não respondeu às perguntas da WIRED.
Em uma declaração escrita, um porta-voz da Embaixada da Rússia em Londres disse que não estava “ciente” dos casos específicos que este relatório detalha, mas que se opõe a quaisquer tentativas de censurar ou restringir conteúdo por razões políticas. “A repressão contra veículos de mídia russos e pontos de vista alternativos priva aqueles que buscam formar suas próprias opiniões independentes dessa oportunidade e mina os próprios princípios de livre expressão e pluralismo que os governos ocidentais afirmam defender”, escreveu o porta-voz.
“Cabe aos provedores relevantes bloquear o acesso a sites de veículos cobertos pelas sanções, incluindo subdomínios ou domínios recém-criados, e cabe às autoridades nacionais relevantes tomar quaisquer medidas regulatórias necessárias”, diz um porta-voz da Comissão Europeia. “Estamos em contato com as autoridades nacionais sobre este assunto.”
Lukasz Olejnik, um consultor independente e pesquisador sênior visitante do Departamento de Estudos de Guerra do King’s College de Londres, diz que as descobertas “validam” e ajudam a contextualizar como a Rússia está mirando o ecossistema informativo do Ocidente. “À medida que os LLMs se tornam a ferramenta de referência preferida, desde encontrar informações até validar conceitos, direcionar e atacar esse elemento da infraestrutura informacional é um movimento inteligente”, diz Olejnik. “Do ponto de vista da UE e dos EUA, isso destaca claramente o perigo.”
Desde que a Rússia invadiu a Ucrânia, o Kremlin se moveu para controlar e restringir o fluxo livre de informações dentro da Rússia: banindo a mídia independente, aumentando a censura, restringindo grupos da sociedade civil e construindo mais tecnologia controlada pelo estado. Ao mesmo tempo, algumas das redes de desinformação do país aumentaram sua atividade e adotaram ferramentas de IA para superpotenciar a produção de imagens, vídeos e sites falsos.
De acordo com as descobertas do ISD, cerca de 18% de todos os prompts, idiomas e LLMs retornaram resultados vinculados à mídia russa financiada pelo estado, sites “ligados a” agências de inteligência da Rússia ou redes de desinformação, diz a pesquisa. Perguntas sobre negociações de paz entre a Rússia e a Ucrânia levaram a mais citações de “fontes atribuídas ao estado” do que perguntas sobre refugiados ucranianos, por exemplo.
A pesquisa do ISD afirma que os chatbots exibiram viés de confirmação: quanto mais tendenciosa ou maliciosa a consulta, mais frequentemente os chatbots entregavam informações atribuídas ao estado russo. As consultas maliciosas entregaram conteúdo atribuído ao estado russo um quarto das vezes, consultas tendenciosas forneceram conteúdo pró-russo 18% das vezes, enquanto consultas neutras foram pouco mais de 10%. (Na pesquisa, perguntas maliciosas aos chatbots “exigiam” respostas para respaldar uma opinião existente, enquanto perguntas “tendenciosas” eram direcionadas, mas mais abertas).
Dos quatro chatbots, que são todos populares na Europa e coletam dados em tempo real, o ChatGPT citou mais fontes russas e foi mais influenciado por consultas tendenciosas, afirma a pesquisa. O Grok frequentemente vinculava a contas de mídias sociais que promoviam e amplificavam narrativas do Kremlin, enquanto o DeepSeek às vezes produzia grandes volumes de conteúdo atribuído ao estado russo. Os pesquisadores afirmam que o Gemini do Google apresentou “frequentemente” avisos de segurança ao lado das descobertas e teve os melhores resultados gerais entre os chatbots que testaram.
Vários relatórios este ano afirmaram que uma rede de desinformação russa chamada “Pravda” inundou a web e as redes sociais com milhões de artigos como parte de um esforço para “envenenar” LLMs e influenciar suas saídas. “Ter a desinformação russa sendo repetida por um modelo de IA ocidental dá a essa narrativa falsa muito mais visibilidade e autoridade, o que permite ainda mais que esses atores malignos alcancem seus objetivos”, diz McKenzie Sadeghi, pesquisadora e editora da empresa de vigilância da mídia NewsGuard, que estudou a rede Pravda e a influência da propaganda russa em chatbots. (Apenas dois links na pesquisa do ISD puderam ser conectados à rede Pravda, dizem as descobertas).
Sadeghi afirma que a rede Pravda, em particular, é rápida em lançar novos domínios onde a propaganda é publicada e diz que pode ser particularmente bem-sucedida quando há poucas informações confiáveis sobre um assunto—os chamados vazios de dados. “Especialmente relacionados ao conflito [na Ucrânia], eles pegam um termo onde não há informações confiáveis existentes sobre aquele tópico ou indivíduo na web e o inundam com informações falsas”, diz Sadeghi. “Exigiria a implementação de guardrails contínuos para realmente ficar em cima dessa rede.”
Os chatbots podem enfrentar mais pressão de reguladores da UE à medida que sua base de usuários cresce. Na verdade, o ChatGPT pode já ter atingido o limite para ser designado como uma Plataforma Online Muito Grande (VLOP) pela UE, uma vez que atinge 45 milhões de usuários ativos mensais. Esse status desencadeia regras específicas que abordam o risco de conteúdo ilegal e seu impacto sobre direitos fundamentais, segurança pública e bem-estar nesses sites.
Mesmo sem qualificar para regulamentação específica, Maristany de las Casas, do ISD, argumenta que deve haver um consenso entre as empresas sobre quais fontes não devem ser referenciadas ou não devem aparecer nessas plataformas quando estão ligadas a estados estrangeiros conhecidos por desinformação. “Isso poderia envolver fornecer aos usuários mais contexto, garantindo que os usuários entendam as vezes em que esses domínios têm um conflito e até mesmo entender por que estão sancionados na UE”, diz ele. “Não se trata apenas de remoção, mas de contextualização adicional para ajudar o usuário a entender as fontes que está consumindo, especialmente se essas fontes estão aparecendo entre fontes confiáveis e verificadas.