A Sony está em uma batalha contra músicas deepfake geradas por IA que imitam alguns de seus artistas mais famosos, incluindo Harry Styles e Beyoncé. A empresa diz que já identificou e removeu mais de 75.000 músicas de plataformas online que imitam seus artistas em canções falsas. A empresa afirma que o número é provavelmente apenas uma fração dos deepfakes de IA disponíveis online.
A proliferação de músicas deepfake causou ‘dano comercial direto a artistas de gravação legítimos, incluindo artistas do Reino Unido’, disse a empresa em uma submissão ao governo, que está considerando novas leis de direitos autorais que permitiriam o treinamento de modelos de IA com material de artistas.
A IA generativa, nomeadamente chatbots como o ChatGPT, ainda produz muitos erros e informações completamente inventadas. Modelos de geração de imagem e áudio geralmente requerem menos precisão do que a produção de texto. Um cachorro pode variar bastante em sua aparência, por exemplo, enquanto o ChatGPT não deve informar a um usuário que ‘1+1 = blueberry’. Os defensores acreditam que a geração de imagens e áudio por IA ajudará a reduzir os custos de produção e que os humanos sempre serão necessários para criar narrativas e enredos envolventes. Isso também pode acabar resultando em muitos filmes de baixa qualidade, à medida que os estúdios buscam fazer filmes com orçamentos menores, tornando a transmissão mais lucrativa.
Há um debate contínuo sobre se os consumidores notarão a diferença entre músicas geradas por IA, mas o lançamento em 2023 de uma música com fac-símiles gerados por IA de Drake e The Weeknd alimentou o medo de que o público simplesmente não se importe. Isso não é bom, é claro, porque os modelos estão apenas imitando trabalhos que já foram produzidos. Embora ainda esteja no campo hipotético, pode-se imaginar um mundo em que há menos artistas reais fazendo música real que treina os modelos em primeiro lugar, e os serviços de streaming estarão cheios de lixo gerado por IA, adaptado ao algoritmo.
O Primeiro-Ministro do Reino Unido, Sir Keir Starmer, disse que deseja que o país seja um líder em IA e propôs permitir que empresas de IA treinem seus modelos de graça para fins comerciais em uma variedade de conteúdos além da música. Muitas pessoas hoje não valorizam muito o conteúdo em um mundo onde tudo é pago por meio de uma pequena assinatura mensal ou publicidade. Empresas como a Sony teriam que optar por não participar para serem isentas sob a proposta, algo que a empresa diz ser oneroso.
Alguns artistas assinaram acordos permitindo que suas imagens sejam usadas em IA, mas eles parecem ser a exceção à norma. No Reino Unido, protestos contra as novas propostas estão em andamento há semanas, com artistas preocupados que seria muito difícil policiar as violações de direitos autorais sob as regras.
A preocupação maior com a geração de IA hoje é a produção de deepfakes nus, onde os rostos de pessoas reais são sobrepostos a corpos nus de maneira altamente realista. Isso se tornou um grande problema em escolas secundárias nos EUA. O áudio deepfake está sendo usado apenas em golpes de phishing.