Não há descanso para os ímpios. No último fim de semana, de acordo com o Religious News Service, pelo menos três igrejas tocaram para suas congregações uma mensagem póstuma de Charlie Kirk, na qual ele assegurou aos presentes: “Estou bem, não porque meu corpo está bem, mas porque minha alma está segura em Cristo. A morte não é o fim, é uma promoção.”
Claro, não era realmente Kirk falando de seu lugar no além. Era um clipe gerado por IA que, antes de ser tocado nessas casas de culto, circulou nas redes sociais. O áudio parece ter se originado no TikTok, gerado pelo usuário NioScript, que postou a mensagem de 51 segundos um dia após a morte de Kirk. Desde então, ela acumulou milhões de reproduções, compartilhada por usuários que gravam suas reações e choros ao ouvir a mensagem gerada por IA. Tudo isso eventualmente levou o áudio a ser tocado em igrejas como a Prestonwood Baptist no Texas, onde foi apresentado pelo Pastor Jack Graham como IA — mas como algo que o “tocou” e que ele está compartilhando para que sua congregação possa “Ouvir o que Charlie está dizendo sobre o que aconteceu com ele na semana passada.”
Não é, novamente, o que Charlie Kirk está dizendo. Mas isso não impediu as pessoas de interagirem com isso como se fosse real. Membros da Prestonwood Baptist deram uma ovação de pé ao vídeo. O público da Dream City Church no Arizona e da Awaken Church, em San Marcos, na Califórnia, que também exibiram os clipes, aplaudiram, como apontado pelo Religious News Service. Usuários nas redes sociais responderam ao áudio com legendas e comentários como “Isso é exatamente o que Charlie diria se pudesse falar conosco agora” ou “Eu sei que é IA, mas você não pode me dizer que isso não é exatamente o que ele diria.”
Esse tipo de enfrentamento com a sensação de perda não é totalmente único. As pessoas sempre buscaram lembrar e preservar as pessoas que amam após a morte, e a tecnologia facilitou novas maneiras de alcançar isso, seja por meio de um fluxo interminável de fotos que despertam memórias ou a presença online da pessoa transformada em um memorial digital. No mundo da literatura sobre luto, isso é frequentemente referido como laços contínuos. Nesse sentido, um clipe de áudio ou vídeo gerado por IA de alguém como Kirk não é tão diferente de compartilhar histórias sobre ele para manter sua memória viva.
É diferente no sentido de que é uma completa fabricação. Não é uma memória, que também pode ser falha, mas uma invenção do zero. Sim, pode ter acesso às palavras, imagem e voz de Kirk, todos os quais estão onipresentes na internet. Mas é, como um modelo de linguagem grande, incapaz de fazer qualquer coisa além de tentar preencher o vazio para os que estão de luto.
Criar uma versão replicada por IA de uma pessoa falecida para ajudar no processo de luto é uma indústria em crescimento. Um artigo recente na Nature destaca vários esforços para entender melhor se chatbots treinados na imagem de um ente querido podem ajudar os enlutados a lidar com os complexos e intensos sentimentos que surgem com a perda. Embora haja algumas evidências que sugiram que usuários de “griefbots” conseguiram encontrar um senso interno de fechamento com seus entes perdidos, existem reais riscos de prejudicar pessoas em um estado emocional frágil, incluindo dificultar a superação da versão bot da pessoa.
Há também a preocupação muito real de que simplesmente não somos capazes de diferenciar entre nossas memórias reais de uma pessoa e as geradas por IA que são implantadas em nossas mentes por meio desses tipos de interações. Um estudo conduzido pelo MIT Media Lab descobriu que expor uma pessoa a até mesmo uma única imagem editada por IA pode afetar a memória de uma pessoa, e aqueles expostos a imagens geradas por IA “relataram altos níveis de confiança em suas memórias falsas.”
A realidade para as pessoas que estão memorializando Kirk dessa maneira é que a grande maioria delas não o conhece realmente. Elas têm uma relação parasocial com ele que gostariam de continuar, e a mensagem da IA permite que isso aconteça porque, em suas mentes, captura sua voz — ou, talvez mais precisamente, captura o que elas querem ouvir.
Já há bastante debate em andamento sobre quem exatamente foi Charlie Kirk e como ele deve ser lembrado sem uma versão gerada por IA dele injetada na conversa. Mas para as pessoas que estão de luto por sua perda, deveriam acreditar que há alguma parte da alma de Kirk vivendo naquela voz da IA, talvez apenas deixá-la descansar.