Existem pelo menos dois Bill de Blasios em Nova York. Mas quando um repórter de um jornal britânico recentemente enviou um e-mail para um deles para obter citações para um artigo sobre o candidato a prefeito de Nova York, Zohran Mamdani, ele acertou o errado. O DeBlasio não famoso (que escreve seu nome como “DeBlasio”, não “de Blasio”) respondeu, supostamente usando o ChatGPT para se fazer soar mais como o ex-prefeito. E isso desencadeou uma cadeia de eventos que resultou na retirada de um artigo e levanta questões sobre o futuro do jornalismo na era da IA.
Tudo começou quando um repórter do Times of London enviou um e-mail para um Bill DeBlasio para perguntar sobre “os planos de política de Zohran Mamdani e seus custos estimados”, de acordo com o Semafor. Mamdani se tornou um ícone político nacional porque é um socialista democrático, o que levou a Fox News e o presidente Donald Trump a atacá-lo como um “comunista” que destruirá Nova York se for eleito prefeito.
Faz sentido que um repórter busque comentários de de Blasio sobre os planos de Mamdani, dada sua função única como ex-prefeito do Partido Democrata. Mas se você não encontrar as informações de contato corretas para o verdadeiro de Blasio, isso é obviamente um problema. E para tornar as coisas ainda mais confusas, você pode não saber que alcançou o de Blasio errado se qualquer um agora pode imitar a voz de uma figura pública com ferramentas de chatbot de IA como o ChatGPT.
O repórter acidentalmente enviou um e-mail para um importador de vinho de Long Island de 59 anos que “usou o ChatGPT para compor uma resposta criticando os planos fiscais de Mamdani, em particular, como improváveis de arrecadar a receita necessária”, de acordo com o Semafor. E o Times of London publicou a história com o título: “Aliado de Zohran Mamdani, Bill de Blasio, diz que suas políticas ‘não fazem sentido’.”
O artigo do Times of London se baseou nas citações falsas de DeBlasio para insistir que o ex-prefeito havia dito que oferecer ônibus gratuitos e cuidados infantis universais—os fundamentos da campanha de Mamdani para prefeito—não se sustentavam sob escrutínio. Não demorou muito para que de Blasio, o ex-prefeito, se manifestasse nas redes sociais.
“Quero deixar claro: A história no Times of London é totalmente falsa e fabricada,” escreveu de Blasio em um tweet na terça-feira. “Foi apenas trazida à minha atenção e estou horrorizado. Nunca falei com aquele repórter e nunca disse essas coisas. Essas citações não são minhas, não refletem minhas opiniões.”
O Times of London deletou o artigo e emitiu uma declaração à Associated Press de que seu repórter havia sido “enganado por um indivíduo que se passava falsamente pelo ex-prefeito de Nova York.”
Esta não foi a primeira vez. A Mel magazine escreveu sobre o DeBlasio não prefeito em 2020, quando ele foi descrito como um profissional de cibersegurança de 54 anos que frequentemente recebia mensagens destinadas ao prefeito. Mas ele sempre brincou com a confusão.
“Uma vez, como uma piada, mudei minha foto de perfil para a foto de Bill de Blasio. Oh meu Deus, recebi 600 pedidos de amizade em duas semanas,” disse DeBlasio na época. Ele também admitiu que diria “as coisas mais ridículas e absurdas” enquanto fingia ser o prefeito.
E nada mudou muito, exceto pela tecnologia. DeBlasio agora tem acesso a uma nova ferramenta que pode ajudá-lo a se passar pelo ex-prefeito. É uma ferramenta que ele não tinha em 2020. A IA generativa está à disposição de qualquer um em 2025 que queira continuar algum tipo de engano. No jornalismo, esse engano não vem apenas de fontes potenciais. Pode ser perpetrado pelos próprios escritores.
Pelo menos seis veículos de notícias deletaram artigos escritos por alguém chamado Margaux Blanchard no último ano, de acordo com o Press Gazette. Blanchard é acreditada como uma criação de IA, mas “ela” estava publicando artigos na Wired, Business Insider, Mashable e Fast Company. A Wired escreveu sobre o erro em agosto, detalhando a linha do tempo de quando o artigo foi proposto a um editor e os sinais de alerta que apareceram quando a escritora queria ser paga.
Curiosamente, a Wired escreveu que a história de Blanchard havia sido submetida a duas “ferramentas de detecção de IA de terceiros”, que descobriram que era provável que tivesse sido escrita por um humano. Mas a IA não é boa em identificar quando algo é IA. Basta perguntar ao Grok.
“Fabulistas e plagiadores são tão antigos quanto a mídia,” escreveu a Wired. “Mas a IA apresenta um novo desafio. Ela permite que qualquer um elabore um pitch perfeito com um simples prompt e atue como jornalista de forma convincente o suficiente para enganar, bem, nós. Agimos rapidamente assim que descobrimos a farsa e tomamos medidas para garantir que isso não aconteça novamente. Nesta nova era, cada redação deve estar preparada para fazer o mesmo.”
A Wired está absolutamente correta que fabulistas e plagiadores são tão antigos quanto a mídia. Esse tipo de coisa até foi transformado em alguns filmes muito bons de Hollywood, como o de 2003, Shattered Glass, sobre o escritor da New Republic, Stephen Glass, dos anos 90, que apresentou histórias falsas como factuais. Mas parece haver uma mudança crítica acontecendo com a IA que ajuda as pessoas que estão intentadas em enganar a alcançar isso de forma mais eficiente.
Podemos quase certamente esperar que mais mentiras intencionais ocorram em nosso atual cenário midiático graças à IA. E parte disso é um jogo de números. A maioria das pessoas provavelmente não será enganada por um vídeo deepfake de Elon Musk implorando para que invistam em uma moeda criptográfica fraudulenta. Mas se você inundar a internet com o suficiente daquela falsidade, eventualmente os golpistas encontrarão suas vítimas.
A mesma coisa pode acontecer no jornalismo. Quem sabe quantos veículos de mídia Margaux Blanchard propôs antes de ser publicada com sucesso? E uma vez que ela foi publicada em um veículo, presumivelmente foi mais fácil para ela levar essa validação a outro veículo como prova implícita de que ela era real e confiável.
A mídia dos EUA está sendo esvaziada, à medida que publicações lutam contra empresas de Big Tech que consomem toda a sua receita e ideólogos de direita assumem o controle de instituições outrora respeitáveis como o Washington Post e a CBS News. O editor que trabalhou na peça sobre Bill de Blasio para o Times of London supostamente trabalhou para o Free Press, uma publicação de direita fundada pelo recentemente instalado chefe da CBS News, Bari Weiss.
A IA é apenas mais uma ferramenta que parece estar acelerando a obliteracão de informações confiáveis na internet. E não há muito que alguém possa fazer sobre isso, além de permanecer cético. Mas o ceticismo pode levar você apenas até certo ponto quando ferramentas como software de detecção de IA não funcionam realmente como anunciado. Os jornalistas são obrigados a continuar investigando para descobrir a verdade, verificando informações por meio de múltiplas fontes. Mas esse trabalho só vai ficar mais difícil à medida que as pessoas que buscam enganar possam simplesmente continuar jogando mais besteira na parede, exercendo nenhum esforço a mais do que um simples prompt de texto de uma linha.