Em um que parece ser um erro embaraçoso e irônico, um renomado professor da Universidade de Stanford foi acusado de espalhar desinformação gerada por IA enquanto atuava como testemunha especializada em apoio a uma lei projetada para manter a desinformação gerada por IA fora das eleições.
Jeff Hancock, o diretor fundador do Laboratório de Mídias Sociais de Stanford, submeteu sua opinião especializada no início deste mês no caso Kohls v. Ellison, um processo movido por um YouTuber e representante estadual de Minnesota que alegam que a nova lei do estado que criminaliza o uso de deepfakes para influenciar eleições viola seu direito de livre expressão garantido pela Primeira Emenda.
Sua opinião incluía uma referência a um estudo que supostamente descobriu que “mesmo quando os indivíduos são informados sobre a existência de deepfakes, eles ainda podem ter dificuldade em distinguir entre conteúdo real e manipulado.” Mas, de acordo com os advogados dos autores, o estudo citado por Hancock—intitulado “A Influência de Vídeos Deepfake nas Atitudes e Comportamentos Políticos” e publicado no Journal of Information Technology & Politics—não existe de fato.
“A citação apresenta as características de uma ‘alucinação’ de inteligência artificial (IA), sugerindo que pelo menos a citação foi gerada por um modelo de linguagem grande como o ChatGPT,” escreveram os autores em uma moção buscando excluir a opinião especializada de Hancock. “Os autores não sabem como essa alucinação acabou na declaração de Hancock, mas isso coloca em questão todo o documento, especialmente quando grande parte do comentário não contém metodologia ou lógica analítica alguma.”
As acusações sobre o uso de IA por Hancock foram inicialmente relatadas pelo Minnesota Reformer. Hancock não respondeu imediatamente ao pedido de comentário da Gizmodo.
Minnesota é um dos 20 estados que aprovaram leis regulando o uso de deepfakes em campanhas políticas. Sua lei proíbe a disseminação intencional ou com desconsideração imprudente de um deepfake até 90 dias antes de uma eleição se o material for feito sem o consentimento da pessoa retratada e for destinado a influenciar os resultados da eleição.
O processo que desafia a lei foi movido por um escritório de advocacia conservador em nome da representante estadual de Minnesota Mary Franson e de Christopher Kohls, um YouTuber que usa o nome Mr Reagan.
Um processo movido por Kohls desafiando a lei de deepfake eleitoral da Califórnia levou um juiz federal a emitir uma liminar preliminar no mês passado, impedindo que essa lei entrasse em vigor.