Um especialista em desinformação acusado de usar IA para gerar um documento legal admitiu que usou o ChatGPT para ajudá-lo a organizar suas citações, levando a “alucinações” que críticos disseram colocar em questão todo o processo. Jeff Hancock, fundador do Stanford Social Media Lab, que escreveu o documento, afirma que os erros não alteram os “pontos substanciais na declaração.”
Hancock submeteu a declaração em apoio à lei de Minnesota “Uso de Tecnologia Deep Fake para Influenciar uma Eleição”, que está sendo contestada em tribunal federal por Christopher Khols — um youtuber conservador que posta sob o nome de Mr Reagan — e a representante estadual de Minnesota, Mary Franson. Após descobrir que o processo de Hancock parecia conter citações que não existiam, os advogados de Khols e Franson disseram que era “não confiável” e pediram que fosse excluído da consideração.
Em uma declaração subsequente apresentada no final da semana passada, Hancock reconheceu que usou o ChatGPT para redigir a declaração, mas nega ter usado para escrever qualquer coisa. “Eu escrevi e revisei a substância da declaração, e estou firme em cada uma das alegações feitas nela, todas as quais são suportadas pela pesquisa acadêmica mais recente na área e refletem minha opinião como especialista sobre o impacto da tecnologia de IA na desinformação e seus efeitos sociais,” escreveu Hancock.
Quanto aos erros de citação, Hancock explicou que usou o Google Scholar e o GPT-4o “para identificar artigos que provavelmente seriam relevantes para a declaração, para que eu pudesse mesclar o que já sabia com novas pesquisas.” Hancock afirma que usou o GPT-4o para criar uma lista de citações, não para escrever o documento, e não percebeu que a ferramenta gerou “dois erros de citação, popularmente conhecidos como ‘alucinações'” e adicionou autores incorretos a outra citação.
“Eu não tive a intenção de enganar o Tribunal ou o advogado,” escreveu Hancock em sua declaração mais recente. “Expresso meu sincero arrependimento por qualquer confusão que isso possa ter causado. Dito isso, estou firme em todos os pontos substanciais na declaração.