O palco de IA na TechCrunch Disrupt 2024 começou de forma inflamante, mas construtiva, em um painel sobre como combater a desinformação. Porém, em uma troca de opiniões animada e temperada por expressões de respeito e concordância, todos os três painelistas tiveram palavras duras para as mídias sociais e a IA generativa.
Nenhum foi mais duro, no entanto, do que Imran Ahmed, CEO do Center for Countering Digital Hate.
“Sempre tivemos bullshit na política, e muitos políticos usam a mentira como uma arte, uma ferramenta para fazer política. O que temos agora é qualitativamente diferente e em uma escala que é como comparar a corrida convencional de armas de bullshit na política com a corrida nuclear”, disse ele.
“É a economia que mudou tão radicalmente: O custo marginal da produção de uma peça de desinformação foi reduzido a zero pela IA generativa, e os custos marginais de distribuição de desinformação [também são zero]”, continuou. “Então, o que você tem, teoricamente, é um sistema de loop perfeito em que a IA generativa está produzindo, distribuindo e, em seguida, avaliando o desempenho – testando A/B e melhorando. Você tem uma máquina de bullshit perpétua. Isso é bastante preocupante!”
Brandie Nonnecke, diretora do CITRIS Policy Lab da UC Berkeley, apontou que a autorregulação na forma de limites voluntários e relatórios de transparência é totalmente insuficiente.
“Eu não acho que esses relatórios de transparência realmente façam algo, em parte porque, nesses relatórios de transparência, eles dirão, veja que ótimo trabalho estamos fazendo: removemos dezenas de milhares de peças de conteúdo prejudicial. Bem, o que você não removeu? O que ainda está flutuando e que você não pegou? Isso dá uma falsa sensação de que eles realmente estão fazendo a devida diligência, quando eu acho que, sob isso tudo, há uma grande bagunça deles tentando descobrir como lidar com todo esse conteúdo”, disse ela.
Pamela San Martin, co-presidente do Facebook Oversight Board, concordou em princípio, mas alertou para não jogar fora o bebê com a água do banho. “Eu acho que seria completamente falso dizer que qualquer plataforma de mídia social está fazendo tudo o que deve fazer – especialmente eu não diria isso sobre a Meta”, disse ela.
“Eu concordo com o que você disse, mas pensamos que este ano, com 80 eleições, seria o ano da IA e das eleições, que todas as eleições em todo o mundo seriam inundadas com deepfakes gerados por IA, que seriam o que controlaria a narrativa”, continuou. “Vimos um aumento nisso, mas não vimos eleições sendo completamente inundadas com conteúdo gerado por IA. Por que eu digo isso? Não porque discorde, é muito preocupante, mas também acho que devemos ter em mente que, se começarmos a tomar medidas por medo, perderemos a boa parte da IA.