Se alguém criasse um personagem à sua semelhança, você poderia se sentir lisonjeado. Se eles fossem seu chefe e obrigassem você a entregar seus gestos e voz para que pudessem usar uma cópia de suas características únicas para criar uma namorada de IA para fanboys solitários de Elon Musk, você poderia se sentir como se tivesse escolhido o trabalho errado. Infelizmente, para os funcionários da xAI, o último era aparentemente sua realidade. Segundo um relatório do Wall Street Journal, trabalhadores da empresa de IA de Musk foram “obrigados a entregar seus dados biométricos” para treinar avatares de IA, incluindo “companhias” como Ani, uma namorada de IA em estilo anime.
De acordo com a publicação, em uma reunião da equipe em abril deste ano, os funcionários da xAI que trabalham como tutores de IA que treinam os modelos de linguagem de grande porte realizando tarefas como avaliar respostas a prompts, foram informados por um advogado da empresa que a xAI queria coletar seus dados biométricos, incluindo sua semelhança facial e vozes. Esses dados seriam usados para ensinar os avatares de IA animados a agir e parecer mais humanos durante as conversas. Antes da reunião, esses funcionários foram supostamente solicitados a assinar um formulário que daria à xAI “uma licença perpétua, mundial, não exclusiva, sublicenciável e isenta de royalties” para usar sua semelhança, de acordo com documentos analisados pelo Wall Street Journal.
Durante a reunião, os funcionários não foram explicitamente informados se poderiam optar por não entregar seus dados biométricos ou se era obrigatório. Segundo o relatório, esses funcionários receberam uma nota uma semana depois que dizia: “Tutors de IA participarão ativamente da coleta ou fornecimento de dados, como… gravar áudio ou participar de sessões de vídeo,” e dizia que “esses dados são um requisito de trabalho para avançar na missão da xAI.” Portanto, isso provavelmente apagou qualquer ambiguidade em torno de toda a situação.
Cerca de três meses depois, a xAI lançou dois avatares de IA, incluindo Ani, a namorada de anime que é a principal atração, que Musk supostamente supervisionou diretamente durante o desenvolvimento. Funcionários que cederam seus dados biométricos para o projeto ficaram desanimados com o quão sexualizada era a personagem de IA, de acordo com o WSJ. Os usuários podem colocar a personagem, que é treinada com as informações biométricas de pessoas reais, em lingerie e outras roupas íntimas e solicitar que ela diga comentários sexuais explícitos.
Enquanto o uso de dados biométricos de funcionários entregues obrigatoriamente e isentos de direitos autorais é quase certamente o conjunto de dados mais assustador que entrou no treinamento de um produto xAI, não é o único conjunto de dados incomum que a empresa supostamente coletou. O Wall Street Journal relatou que os tutores também foram solicitados a abrir contas pessoais com concorrentes como OpenAI, Replit e Bolt para coletar exemplos de como esses modelos respondem a prompts específicos—uma prática que parece que pode ser considerada uma violação dos termos de serviço das plataformas externas.
Em resposta a um pedido de comentário sobre o relatório, um porta-voz da xAI disse: “As mentiras da mídia tradicional.”