A OpenAI está bloqueando usuários de criar vídeos gerados por IA do falecido líder dos direitos civis Martin Luther King Jr. em seu modelo de vídeo de IA Sora. A empresa anunciou a decisão na quinta-feira em um comunicado conjunto com a King Estate.
De acordo com a OpenAI, alguns usuários criaram “representações desrespeitosas” de King. A pedido de sua herança, a empresa disse que está suspendendo a capacidade dos usuários de gerar vídeos do ativista enquanto trabalha para “fortalecer as diretrizes para figuras históricas”.
“Embora existam fortes interesses de liberdade de expressão em retratar figuras históricas, a OpenAI acredita que figuras públicas e suas famílias devem, em última análise, ter controle sobre como sua imagem é usada”, disse a empresa no comunicado.
A OpenAI adicionou que representantes autorizados ou proprietários de heranças de outras figuras históricas agora podem solicitar que sua imagem não seja usada em vídeos do Sora.
Recentemente, a OpenAI lançou seu modelo de vídeo de IA mais avançado, Sora 2, junto com um novo aplicativo de mídia social semelhante ao TikTok. O aplicativo permite que os usuários carreguem sua própria imagem, chamada de cameo, para criar vídeos gerados por IA apresentando a si mesmos, amigos, celebridades e personagens fictícios.
Desde seu lançamento há apenas algumas semanas, a OpenAI já começou a ajustar a forma como o aplicativo funciona enquanto tenta navegar pelo equilíbrio ainda incerto entre a livre expressão e o uso indevido da IA.
Até mesmo o CEO da OpenAI, Sam Altman, disse em um post no X que a empresa sentiu certo nível de “ansiedade” ao lançar seu mais recente modelo e aplicativo de mídia social.
“As mídias sociais tiveram alguns bons efeitos no mundo, mas também tiveram alguns ruins”, escreveu ele. “Estamos cientes de quão viciante um serviço como este poderia se tornar, e conseguimos imaginar muitas maneiras de como isso poderia ser usado para assédio.”
Não demorou muito para que as pessoas começassem a agir de maneira estranha com o Sora. O Washington Post relatou que clipes gerados pelo Sora de celebridades falecidas como Michael Jackson, Amy Winehouse e Whitney Houston rapidamente inundaram as mídias sociais. Enquanto alguns são homenagens leves, outros são mais desrespeitosos.
De acordo com o Post, alguns usuários fizeram vídeos de King fazendo barulhos de macaco durante seu discurso “Eu Tenho um Sonho” e lutando com o fellow ativista dos direitos civis Malcolm X.
Algumas famílias de falecidos rapidamente reclamaram e pediram que as pessoas parassem de compartilhar vídeos de IA de seus parentes.
Zelda Williams, filha do falecido ator Robin Williams, postou no Instagram no início deste mês, pedindo às pessoas que parassem de enviar vídeos gerados por IA de seu pai. Não está claro se os vídeos a que ela se referia foram criados com o Sora, mas sua postagem ocorreu após o lançamento do aplicativo.
Bernice King, filha de Martin Luther King Jr., escreveu em seu próprio post no Instagram sobre os comentários de Williams: “Concordo em relação ao meu pai. Por favor, parem.”
A mais recente medida da OpenAI ecoa sua mudança em como lida com material protegido por direitos autorais.
Após inicialmente exigir que titulares de direitos autorais optassem por não ter seu conteúdo aparecendo em vídeos gerados pelo Sora, Altman anunciou no início deste mês que a empresa mudará para um modelo de “opt-in” que “dará aos detentores de direitos controle mais granular sobre a geração de personagens.”