A ferramenta de inteligência artificial de Elon Musk, Grok, ficou fora de controle na quarta-feira, respondendo a perguntas inocentes no X com informações sobre ‘genocídio branco’ na África do Sul. Foi um erro confuso e às vezes hilário, mas agora temos algumas respostas sobre o que aconteceu da xAI. E, francamente, isso nos deixa com mais perguntas.
A xAI postou um tweet na noite de quinta-feira detalhando sua explicação, incluindo o horário exato em que as mudanças foram feitas no Grok que o fizeram emitir frases sobre ‘genocídio branco’ não importa o que os usuários perguntassem.
‘Em 14 de maio, aproximadamente às 3:15 AM PST, uma modificação não autorizada foi feita no prompt do bot de resposta Grok no X’, escreveu a xAI. ‘Essa mudança, que direcionou o Grok a fornecer uma resposta específica sobre um tópico político, violou as políticas internas e os valores centrais da xAI. Conduzimos uma investigação minuciosa e estamos implementando medidas para aumentar a transparência e a confiabilidade do Grok.’
Você notará que a xAI, que é de propriedade de Elon Musk, sugere fortemente que houve um ator interno que fez essa ‘modificação não autorizada’, mas não usa a linguagem que você esperaria se fosse um funcionário da empresa. E estamos supondo que isso pode ter algo a ver com o fato de que não foi necessariamente um funcionário, mas o proprietário.
Musk tem longamente estado obcecado pela teoria da conspiração do ‘genocídio branco’, a ideia de que brancos estão sendo mortos ao redor do mundo por não brancos. A teoria da conspiração frequentemente inclui elementos de antissemitismo e é semelhante à chamada teoria da Grande Substituição, que afirma que elites globais estão tentando substituir os brancos por outras raças em países ricos ao redor do mundo. Musk está particularmente interessado no suposto ‘genocídio branco’ que está acontecendo na África do Sul, o país onde nasceu e foi criado antes de emigrar para o Canadá e, eventualmente, os EUA, e já compartilhou tweets onde insiste que fazendeiros brancos estão sendo assassinados por sua raça.
Um dia antes de o Grok começar a agir de forma estranha, Musk retweetou uma publicação sobre a África do Sul que continha desinformação. A pessoa que Musk estava retweetando postou um vídeo que mostrava uma rua na África do Sul onde centenas de cruzes brancas haviam sido colocadas em cada lado. O poster alegou que cada cruz representava um fazendeiro branco que havia sido assassinado.
‘Cada cruz representa um fazendeiro branco que foi assassinado na África do Sul’, escreveu a conta Dr. Maalof. ‘E algumas pessoas ainda negam que sul-africanos brancos/boers estão sendo perseguidos e dizem que não merecem asilo porque são brancos.’
Musk compartilhou o tweet com ‘Tantas cruzes’, e naturalmente, uma porção de usuários do X perguntou ao Grok se isso era verdade. O Grok respondeu que as cruzes eram chamadas de Monumento Witkruis e cada cruz na verdade representa fazendeiros de qualquer raça que foram assassinados. No dia seguinte, as pessoas começaram a notar que o Grok estava agindo de forma estranha, respondendo a consultas não relacionadas com informações sobre genocídio branco.
Mudanças foram feitas no Grok às 3:15 AM PT (6:15 AM ET), o que levou a piadas na noite de quinta-feira sobre como Musk fica acordado até tarde da noite. O bilionário frequentemente twitta a qualquer hora, mas você não precisa presumir que Musk estava acordado até tarde para pensar que ele pode ter sido o responsável pela mudança no Grok. O bilionário oligarca está atualmente no Oriente Médio com o presidente Donald Trump, se reunindo com líderes mundiais. O fuso horário do Catar está 10 horas à frente do Horário do Pacífico, significando que era 1:15 PM no Catar quando a alteração estava acontecendo.
O jato de Elon, a conta de mídia social que rastreia o avião de Musk e foi banida do X, mostra que o bilionário estava prestes a pousar em Doha quando tudo isso estava acontecendo.
Para ser claro, não temos provas de que Musk esteve envolvido. É totalmente possível que alguns trabalhadores da xAI tenham visto Musk sendo desmentido pelo Grok sobre o genocídio branco e quiseram inclinar a ferramenta de IA a favor de seu chefe. Mas Musk é notório por mexer em seus produtos para atender suas necessidades e fazer com que ele se sinta melhor. Há uma história infame, primeiramente relatada pelo Platformer em 2023, onde Musk ficou extremamente irritado porque o tweet do presidente Joe Biden sobre o Super Bowl teve mais curtidas e visualizações do que o de Musk.
O tweet de Biden sobre o Super Bowl recebeu 29 milhões de impressões e o de Musk apenas 9 milhões, levando Musk a voar de volta para a sede do Twitter em São Francisco para exigir mudanças no algoritmo. Essas mudanças fizeram com que os usuários do X vissem uma inundação absoluta de tweets de Musk. Não foi sutil.
Estamos supondo que algo semelhante aconteceu aqui. A xAI escreveu na noite de quinta-feira que começaria a publicar prompts do sistema no Github em um esforço para ser mais transparente e ‘colocar em prática uma equipe de monitoramento 24/7 para responder a incidentes com as respostas do Grok que não são detectadas por sistemas automatizados, para que possamos responder mais rapidamente se todas as outras medidas falharem.’ Isso, é claro, faz parecer que isso foi um problema de automação em vez de um homem inseguro mexendo em seu brinquedo multimilionário para se sentir melhor. Mas tudo bem, eles podem se convencer do que quiserem.
O resumo? Esses sistemas são inerentemente tendenciosos pela forma como são treinados. E também são incrivelmente difíceis de manipular com precisão, dado o funcionamento de grandes modelos de linguagem. O Grok é essencialmente apenas uma máquina de texto preditivo sofisticada. E enquanto Musk tiver o controle de ferramentas para moldar a opinião pública, ele vai usá-las—infelizmente, para propósitos fascistas.