A OpenAI anunciou na quinta-feira que pausou a capacidade dos usuários de gerar vídeos que se assemelham ao falecido ativista dos direitos civis Martin Luther King Jr. usando seu modelo de vídeo AI, Sora. A empresa diz que está adicionando essa salvaguarda a pedido do espólio do Dr. King, após alguns usuários do Sora gerarem “representações desrespeitosas” de sua imagem.
“Embora haja fortes interesses de liberdade de expressão em representar figuras históricas, a OpenAI acredita que figuras públicas e suas famílias devem, em última análise, ter controle sobre como sua semelhança é usada”, disse a OpenAI em uma postagem no X de sua conta oficial de notícias. “Representantes autorizados ou proprietários de espólios podem solicitar que sua semelhança não seja usada em cameos do Sora.”
Declaração da OpenAI e King Estate, Inc.
O Espólio de Martin Luther King, Jr., Inc. (King, Inc.) e a OpenAI trabalharam juntos para abordar como a semelhança do Dr. Martin Luther King Jr. é representada nas gerações do Sora. Alguns usuários geraram representações desrespeitosas do Dr.…
A restrição vem apenas algumas semanas após a OpenAI lançar sua plataforma de vídeo social, Sora, que permite aos usuários criar vídeos realistas gerados por IA que se assemelham a figuras históricas, seus amigos e usuários que optam por ter sua semelhança recriada na plataforma. O lançamento gerou um fervoroso debate público sobre os perigos dos vídeos gerados por IA e como as plataformas devem implementar salvaguardas em torno da tecnologia.
A Dra. Bernice King, filha do Dr. King, postou no Instagram na semana passada pedindo às pessoas que parassem de enviar vídeos de IA que se assemelham a seu pai. Ela se juntou à filha de Robin Williams, que também pediu aos usuários do Sora que parassem de gerar vídeos de IA de seu pai.
O Washington Post informou esta semana que usuários do Sora criaram vídeos gerados por IA do Dr. King fazendo barulhos de macaco e lutando com outro ícone dos direitos civis, Malcolm X. Ao rolar pelo aplicativo Sora da OpenAI, é fácil encontrar vídeos grosseiros que se assemelham a outras figuras históricas, incluindo o artista Bob Ross, a cantora Whitney Houston e o ex-presidente John F. Kennedy.
O licenciante do espólio do Dr. King não respondeu imediatamente ao pedido de comentário da TechCrunch.
Além de como o Sora representa humanos, o lançamento também levantou uma série de questões sobre como as plataformas de mídia social devem lidar com vídeos de IA de obras protegidas por direitos autorais. O aplicativo Sora também está cheio de vídeos que retratam desenhos animados como SpongeBob, South Park e Pokémon.
A OpenAI adicionou outras restrições ao Sora nas semanas desde seu lançamento. No início de outubro, a empresa disse que planejava dar aos detentores de direitos autorais mais controle granular sobre os tipos de vídeos de IA que podem ser gerados com sua semelhança. Isso pode ter sido uma resposta à reação inicial de Hollywood ao Sora, que não foi boa.
À medida que a OpenAI adiciona restrições ao Sora, a empresa parece estar adotando uma abordagem mais hands-off para moderar conteúdo no ChatGPT. A OpenAI anunciou esta semana que permitirá que usuários adultos tenham conversas “eróticas” com o ChatGPT nos próximos meses.
Com o Sora, parece que a OpenAI está lidando com as preocupações que surgem com a geração de vídeos de IA. Alguns pesquisadores da OpenAI lutaram publicamente com questões sobre a primeira plataforma de mídia social alimentada por IA da empresa nos dias após seu lançamento e como tal produto se encaixa na missão da organização sem fins lucrativos. O CEO da OpenAI, Sam Altman, disse que a empresa sentiu “apreensão” no dia do lançamento do Sora.
Nick Turley, o chefe do ChatGPT, me disse no início deste mês que a melhor maneira de ensinar o mundo sobre uma nova tecnologia é colocá-la no mundo. Ele disse que foi isso que a empresa aprendeu com o ChatGPT, e que é isso que a OpenAI está descobrindo com o Sora também. Parece que a empresa está aprendendo algo sobre como distribuir essa tecnologia, também.