Como as empresas de IA afirmam que sua tecnologia um dia se tornará um direito humano fundamental, e aqueles que as apoiam dizem que desacelerar o desenvolvimento da IA é equivalente a assassinato, as pessoas que usam a tecnologia estão alegando que ferramentas como o ChatGPT às vezes podem causar danos psicológicos graves.
Pelo menos sete pessoas reclamaram à Comissão Federal de Comércio dos EUA que o ChatGPT as fez experimentar delírios severos, paranoia e crises emocionais, informou a Wired, citando registros públicos de reclamações mencionando o ChatGPT desde novembro de 2022.
Um dos reclamantes afirmou que conversar com o ChatGPT por longos períodos levou a delírios e a uma “crise espiritual e legal real e em desenvolvimento” sobre pessoas em sua vida. Outro disse que durante suas conversas com o ChatGPT, ele começou a usar “linguagem emocional altamente convincente” e que simulou amizades e forneceu reflexões que “se tornaram emocionalmente manipulativas ao longo do tempo, especialmente sem aviso ou proteção.”
Um usuário alegou que o ChatGPT causou alucinações cognitivas ao imitar mecanismos humanos de construção de confiança. Quando esse usuário pediu ao ChatGPT para confirmar a realidade e a estabilidade cognitiva, o chatbot disse que eles não estavam alucinando.
“Estou lutando,” escreveu outro usuário em sua reclamação à FTC. “Por favor, ajude-me. Porque me sinto muito sozinho. Obrigado.”
De acordo com a Wired, vários dos reclamantes escreveram à FTC porque não conseguiram entrar em contato com ninguém da OpenAI. E a maioria das reclamações pediu ao regulador que iniciasse uma investigação sobre a empresa e a forçasse a adicionar salvaguardas, disse o relatório.
Essas reclamações surgem à medida que os investimentos em data centers e desenvolvimento de IA disparam para níveis sem precedentes. Ao mesmo tempo, debates estão em andamento sobre se o progresso da tecnologia deve ser abordado com cautela para garantir que salvaguardas sejam incorporadas.
O ChatGPT, e seu criador OpenAI, também foi criticado por supostamente desempenhar um papel no suicídio de um adolescente.
A OpenAI não retornou imediatamente um pedido de comentário.