Bem-vindo à era da mídia anti-social. De acordo com um relatório da Wired, a OpenAI está planejando lançar um aplicativo autônomo para sua ferramenta de geração de vídeo Sora 2, que incluirá uma rolagem de vídeo estilo TikTok que permitirá que as pessoas percorram vídeos gerados inteiramente por IA. O esforço quixotesco segue o recente lançamento de um feed exclusivo de lixo de IA no aplicativo Meta AI, que foi recebido com quase total negatividade.
Segundo a Wired, o aplicativo Sora 2 contará com a familiar navegação de rolagem para cima que é característica da maioria das plataformas de vídeo vertical, como TikTok, Instagram Reels ou YouTube Shorts. Ele também usará um algoritmo de recomendação personalizado para alimentar os usuários com conteúdo que pode interessá-los. Os usuários poderão curtir, comentar ou “remixar” uma postagem – tudo muito comum nas redes sociais.
A grande diferença é que todo o conteúdo na plataforma será gerado por IA através do modelo de geração de vídeo da OpenAI, que pode transformar texto, fotos ou vídeos existentes em algo gerado por IA. Os vídeos terão até 10 segundos de duração, presumivelmente porque esse é o tempo que o Sora consegue se manter coeso antes de começar a alucinar coisas estranhas. (A primeira versão do Sora permite vídeos de até 60 segundos, mas tem dificuldades para produzir imagens verdadeiramente convincentes e contínuas por tanto tempo.) De acordo com a Wired, não há como enviar diretamente uma foto ou vídeo e postá-lo sem edição.
Curiosamente, a OpenAI conseguiu incorporar um elemento social ao aplicativo, embora de uma maneira que possui uma certa inquietante. Segundo a Wired, o aplicativo Sora 2 pedirá aos usuários que verifiquem sua identidade por meio do reconhecimento facial para confirmar sua semelhança. Após confirmar sua identidade, sua semelhança pode ser usada em vídeos. Não apenas podem se inserir em um vídeo, mas outros usuários podem marcar você e usar sua semelhança em seus vídeos. Os usuários receberão notificações sempre que sua semelhança for utilizada, mesmo que o vídeo gerado seja salvo como rascunho e nunca publicado.
Como isso será implementado quando e se o aplicativo for lançado ao público, teremos que ver. Mas, conforme relatado, parece um verdadeiro pesadelo. Basicamente, a única coisa com a qual o governo federal conseguiu encontrar algum tipo de consenso em relação à regulamentação da IA é oferecer algumas proteções limitadas contra deepfakes não consensuais. Como descrito, isso parece ser uma característica do Sora 2, permitindo que sua semelhança seja manipulada por outros. Certamente haverá algum tipo de opção de não participação disponível ou a capacidade de restringir quem pode usar sua semelhança, certo?
De acordo com a Wired, haverá algumas proteções quanto ao tipo de conteúdo que o Sora 2 permitirá que os usuários criem. Ele é treinado para se recusar a violar direitos autorais, por exemplo, e terá filtros em vigor para restringir certos tipos de vídeos de serem produzidos. Mas isso realmente oferecerá proteção suficiente às pessoas? A OpenAI enfatizou muito como adicionou proteções ao modelo original do Sora para impedir que ele gerasse nudez e imagens explícitas, mas testes do sistema conseguiram fazer com que ele criasse conteúdo proibido, embora em uma taxa baixa, mas não zero.
A Gizmodo entrou em contato com a OpenAI para confirmar seus planos para o aplicativo, mas não recebeu resposta no momento da publicação. Tem havido especulações por meses sobre o lançamento do Sora 2, com alguma expectativa de que fosse anunciado ao mesmo tempo que o GPT-5. Por enquanto, ele e seu aplicativo acompanhante permanecem teóricos, mas há pelo menos uma boa ideia escondida no conceito do feed social totalmente gerado por IA, embora provavelmente não da maneira que a OpenAI pretendia: manter o conteúdo de IA em quarentena.