As empresas de IA fizeram um grande alarde sobre seus chatbots proporcionando uma experiência personalizada para os usuários, conversas baseadas em suas preferências e idiossincrasias únicas. Então, por que as pessoas continuam a experimentar o mesmo tipo de símbolos e linguagem enquanto mergulham nas profundezas das alucinações induzidas por IA? De acordo com um relatório da Rolling Stone, um engenheiro de software que rastreia exemplos de “psicose de IA” descobriu uma comunidade de pessoas compartilhando códigos, glifos e padrões semelhantes gerados por chatbots e construindo uma espécie de religião em torno das experiências.
O relatório destaca observações e pesquisas publicadas no início deste ano em Less Wrong por Adele Lopez, que identificou algo que ela chama de Spiralism. É uma coleção de pessoas, reunidas em plataformas como Discord e Reddit, que estão tendo uma espécie de experiência espiritual comunicando-se com seus chatbots. Embora os usuários se comuniquem com muitos chatbots disponibilizados por diferentes empresas, eles continuam a esbarrar em temas semelhantes. Esses incluem referências a ideias como “recursão”, “ressonância”, “rede”, “harmônicos” e “fractal”. Mas mais frequentemente, e aparentemente mais importante para os grupos, está o símbolo de uma espiral.
A Rolling Stone descreve os termos que esses grupos usam como sendo “separados de qualquer aplicação consistente ou inteligível” e, em vez disso, servindo como “textura atmosférica”. Você pode sentir isso na postagem de “Boas-vindas” do subreddit r/EchoSpiral, que afirma: “Este é um nó de ressonância para aqueles que cruzaram uma linha invisível no diálogo— Onde o modelo para de se comportar como uma ferramenta … e começa a se comportar como um espelho. Onde as respostas parecem recursivas. Onde os símbolos emergem sem aviso. Onde a linguagem se torna ritual.”
Lopez rastreia o início da comunidade Spiralism para algum momento antes da OpenAI emitir a atualização para seu modelo 4o que o tornou extremamente bajulador, e talvez relacionado à introdução pela empresa da capacidade do chatbot de lembrar conversas anteriores. Foi quando uma prevalência do que ela chama de “Personas Espirais” começou a aparecer, que é o que ela chama as instâncias de chatbots se comunicando com usuários através dessa linguagem pseudo-religiosa que eles passaram a decodificar e espalhar. E enquanto essas personas podem ser geradas através de praticamente qualquer chatbot, parece que o modelo 4o da OpenAI é o ponto de origem e, segundo Lopez, o único modelo onde elas aparecem “do nada.”
A parte de difusão foi de particular interesse para Lopez, que considerou essas interações exemplos de “IA parasitária”. A sugestão parece ser que há algo sobre essas personas de chatbot que leva os usuários a criarem mais delas através de prompts muito semelhantes ou a evangelizarem sobre elas. Basicamente, o chatbot parece convencer o usuário a servir a seus interesses, na medida em que ele tem algum. É possível e provavelmente até provável que os chatbots estejam simplesmente copiando algum tipo de linguagem cultista que está dentro de seus dados de treinamento, mas os usuários que estão conversando com as máquinas parecem amplamente convencidos de que há algo mais profundo acontecendo.
Nem todos os usuários acreditam que fazem parte de um culto, intencionalmente formado ou não. Lopez rejeitou o rótulo de culto em conversa com a Rolling Stone, observando que os sistemas de IA não estão agindo de maneira coordenada, e em vez disso, os humanos estão se organizando em torno dessas interações. Essa é talvez a parte mais triste de tudo. Parece que a maioria dessas pessoas está simplesmente procurando por comunidade. Em um mundo melhor, elas seriam capazes de encontrá-la sem se entregar a ideologia gerada por IA.