Em setembro de 2023, a Meta fez um grande alarde sobre seus novos chatbots de IA que usavam a semelhança de celebridades: todos, desde Kendall Jenner até MrBeast, alugaram-se para incorporar personagens de IA no Instagram e no Facebook. Os bots baseados em celebridades foram desativados no verão passado, após menos de um ano, mas os usuários recentemente descobriram uma série de outros perfis de bots totalmente falsos ainda flutuando — e a reação não é boa.
Há “Jane Austen”, uma “novelista cínica e contadora de histórias”; “Liv”, cuja biografia afirma que ela é uma “orgulhosa mãe negra queer de 2 filhos e contadora da verdade”; e “Carter”, que promete dar conselhos sobre relacionamentos. Todos são rotulados como “IA gerenciada pela Meta” e os perfis datam da época em que o anúncio inicial foi feito. Mas os mais de uma dúzia de personagens de IA aparentemente não foram muito populares: cada um tem apenas alguns milhares de seguidores, com suas postagens recebendo apenas alguns likes e comentários.
Isso é, até a última semana. Após uma onda de cobertura em veículos como Rolling Stone e postagens circulando nas redes sociais, as contas de bots estão sendo notadas agora, e a reação é confusão, frustração e raiva.
“Que diabos uma IA sabe sobre namoro?????” lê-se um comentário recente no perfil do bot de coach de relacionamentos. “Isso não é apenas blackface virtual, mas é simplesmente estranho”, escreveu um comentarista em uma postagem na página de Liv.
Outro ponto de irritação é que não parece haver uma maneira de bloquear os bots através de canais típicos: a opção de bloquear ou restringir os perfis está ausente.
Muitos dos bots de IA não compartilharam novo conteúdo em sua grade desde o início de 2024, e não está claro como (ou se) os usuários têm encontrado e interagido com esses perfis ao longo do ano passado. Na semana passada, o Financial Times relatou que a Meta imagina um futuro onde as plataformas de mídia social estão cheias de bots de IA.
“Esperamos que essas IAs, ao longo do tempo, existam em nossas plataformas, de forma semelhante a como as contas existem”, disse Connor Hayes, vice-presidente de produto para IA generativa da Meta, ao veículo. “Elas terão bios e fotos de perfil e poderão gerar e compartilhar conteúdo alimentado por IA na plataforma… é para onde vemos tudo isso indo.”
A ideia de inundar deliberadamente as redes sociais com bots é ridícula à primeira vista, mas está alinhada com a forma como a Meta promoveu ferramentas de IA generativa. Qualquer pessoa nos EUA pode criar um chatbot de si mesma, com a ideia de que os usuários podem enviar seus bots em seu lugar para conversar com seguidores. Serviços de chatbot como Character.ai ganharam popularidade no último ano com pessoas em busca de um amigo digital ou apenas uma maneira de passar o tempo — mas as empresas de IA também estão enfrentando processos judiciais acusando-as de colocar usuários, incluindo crianças, em perigo.
A Meta não respondeu imediatamente às perguntas do The Verge sobre o papel desses perfis, se estão sendo ativamente desenvolvidos e se os usuários humanos estão realmente interagindo com eles.