O entusiasta do X e acionista do Reddit, Sam Altman, teve uma epifania na segunda-feira: os bots tornaram impossível determinar se as postagens nas redes sociais são realmente escritas por humanos, ele postou.
A realização veio enquanto ele lia (e compartilhava) algumas postagens do subreddit r/Claudecode, que elogiavam o OpenAI Codex. A OpenAI lançou o serviço de programação de software que compete com o Claude Code da Anthropic em maio.
Ultimamente, aquele subreddit tem estado tão cheio de postagens de usuários autoproclamados do Codex anunciando que mudaram para o Codex que um usuário do Reddit até brincou: “É possível mudar para o Codex sem postar um tópico no Reddit?”
Isso deixou Altman se perguntando quantas dessas postagens eram de humanos reais. “Tive a experiência mais estranha lendo isso: eu assumo que é tudo falso/bots, mesmo sabendo que o crescimento do Codex é realmente forte e a tendência aqui é real,” ele confessou no X.
Ele então analisou ao vivo seu raciocínio. “Acho que há uma série de coisas acontecendo: pessoas reais começaram a soar como LLMs, a galera extremamente online se agrupa de maneiras muito correlacionadas, o ciclo de hype tem um extremismo de ‘acabou’/’estamos de volta’, pressão de otimização das plataformas sociais para aumentar o engajamento e a maneira relacionada como a monetização dos criadores funciona, outras empresas nos astroturfaram, então estou extra sensível a isso, e mais um monte (incluindo provavelmente alguns bots).”
Para decifrar isso um pouco, ele está acusando humanos de começarem a soar como LLMs, mesmo que os LLMs — liderados pela OpenAI — tenham sido literalmente inventados para imitar a comunicação humana, até mesmo o uso do travessão. E os modelos da OpenAI definitivamente foram treinados no Reddit, onde Altman foi membro do conselho até 2022 e foi divulgado como um grande acionista durante o IPO da empresa no ano passado.
Ele faz um ponto válido de que fandoms, liderados por usuários de redes sociais extremamente ativos, tendem a se comportar de maneiras estranhas. Muitos grupos podem se transformar em locais de ódio se dominados por aqueles que desabafam frustrações para seus semelhantes.
Sam também critica os incentivos quando as redes sociais e os criadores dependem do engajamento para ganhar dinheiro. Justo.
Mas então Altman confessa que uma das razões pelas quais ele acha que as postagens a favor da OpenAI nesse subreddit podem ser bots é porque a OpenAI também foi “astroturfada.” Isso normalmente envolve postagens por pessoas ou bots pagos pela concorrência, ou pagos por algum terceiro, dando à concorrência uma plausibilidade de negação.
Não temos evidências de astroturfing (embora seja possível). Mas vimos como os subreddits da OpenAI se voltaram contra a empresa após o lançamento do GPT 5.0. Em vez de ondas de elogios dos fiéis sobre o novo modelo, muitas postagens de raiva foram votadas para cima. As pessoas foram ao Reddit e ao X para reclamar sobre tudo, desde a personalidade do GPT até como ele consumia créditos sem concluir tarefas.
Um dia após o lançamento problemático, Altman fez uma sessão de perguntas e respostas no Reddit no r/GPT, na qual confessou problemas de lançamento e prometeu mudanças. O subreddit do GPT nunca se recuperou totalmente de seu nível anterior de amor, com usuários ainda postando regularmente sobre o quanto eles não gostam das mudanças com o GPT 5.0. Eles são humanos? Ou são, como Altman parece insinuar, falsos de alguma forma?
Altman supõe: “O efeito líquido é que de alguma forma o Twitter/Reddit de IA parece muito falso de uma maneira que realmente não parecia há um ou dois anos.”
Se isso for verdade, de quem é a culpa? O GPT levou os modelos a se tornarem tão bons em escrever que os LLMs se tornaram uma praga não apenas para sites de redes sociais (que sempre tiveram um problema com bots), mas também para escolas, jornalismo e tribunais.
Embora não saibamos quantas postagens no Reddit são escritas por bots, ou são contas fictícias de humanos usando LLMs, é provável que um número substancial. A empresa de segurança de dados Imperva relatou que mais da metade de todo o tráfego da internet em 2024 era não humano, em grande parte devido aos LLMs. O próprio bot do X, Grok, diz: “Os números exatos não são públicos, mas as estimativas de 2024 sugerem centenas de milhões de bots no X.”
Vários cínicos sugeriram que o lamento de Altman foi suas primeiras tentativas de marketing da suposta plataforma de mídia social da OpenAI. Em abril, o Verge relatou que tal projeto para enfrentar o X e o Facebook estava em seus estágios iniciais. Este produto pode ou não existir. Altman pode ou não ter tido motivos ocultos para sugerir que as redes sociais estão muito falsas atualmente.
Mas, deixando de lado os motivos, se a OpenAI está planejando uma rede social, quais são as chances de que seria uma zona livre de bots? E, engraçado, se fizesse o oposto e banisse humanos, os resultados provavelmente não seriam diferentes. Não apenas os LLMs ainda alucinam fatos, mas quando pesquisadores da Universidade de Amsterdã construíram uma rede social composta inteiramente por bots, descobriram que os bots logo formaram grupos e câmaras de eco para si mesmos também.