O CEO da Cloudflare, Matthew Prince, é o mais recente executivo de tecnologia a soar o alarme para um cenário distópico de IA em um futuro próximo.
Falando no Podcast Big Interview da WIRED na terça-feira, Prince disse que acredita que os dias em que os motores de busca eram “a interface dominante da web” já se foram há muito tempo.
“Agora, se você fizer uma busca, ela te dá uma resposta no topo da página. Em vez de um mapa do tesouro, oferece o que chamam de Visão Geral da IA, que pegou uma série de conteúdos, juntou, resumiu de várias maneiras e sintetizou”, disse Prince.
Ele não é a única pessoa a tocar as campainhas do apocalipse para a busca na internet. No início deste mês, um juiz federal proferiu um veredicto surpreendente em um processo antitruste sobre o monopólio do motor de busca do Google, quando permitiu que o gigante da tecnologia mantivesse seu motor de busca, Chrome. Seu raciocínio foi que acreditava que a IA generativa finalmente apresentava “um desafio significativo à dominância de mercado do Google” na busca na internet.
A IA não é um motor de busca, diz Prince, mas um “motor de respostas”, e não consegue gerar tráfego, que é o que mantém os criadores de conteúdo da internet, como pesquisadores, escritores, jornalistas e outros, pagos.
À medida que os motores de resposta começam a tomar o lugar dos motores de busca, Prince acredita que estamos encarando três futuros possíveis.
O primeiro futuro que ele acha improvável: Jornalismo, pesquisa acadêmica, etc., morrerão completamente e serão tomados pela IA. Basicamente, a “teoria da internet morta”, segundo a qual grande parte do conteúdo online é criado e interagido por bots, um estado final natural da estratégia de geração de receita baseada em engajamento do conteúdo online.
Mas a IA se alimenta de conteúdo escrito por humanos; não o gera fresco, então isso parece improvável, ele acredita.
A segunda possibilidade, no entanto, é “assustadoramente provável de acontecer”, diz Prince. Ele a chama de “possibilidade Black Mirror”.
Nesse cenário, ele acredita que todos os criadores de conteúdo, de jornalistas a pesquisadores, serão empregados por um punhado de empresas de IA em um sistema que se assemelhará ao século 1400, quando artistas, pensadores e escritores eram todos patrocinados por um punhado de famílias poderosas, como a família Medici de Florença, Itália. Os Medici eram uma família poderosa que financiou o trabalho de muitos artistas e pensadores, mas também ampliou seu poder político controlando a produção de informações e garantindo que promovessem suas próprias ideologias.
Se esse cenário se concretizar, Prince acredita que empresas de IA como Anthropic, Perplexity e a OpenAI de Sam Altman acabarão contratando a população crescente de jornalistas desempregados e outros criadores de conteúdo para estabelecer seus próprios escritórios de notícias ou conteúdo.
Se isso se tornar nossa realidade, o que o sistema global de informações acabará tendo é um punhado de grandes empresas de tecnologia que controlam o conhecimento e provavelmente o ajustarão para suas crenças. Novamente, não é uma ideia muito louca: apenas dois meses atrás, o Grok da xAI fez manchetes quando pesquisadores descobriram que o chatbot verificava as opiniões de seu proprietário, Elon Musk, antes de responder a perguntas sensíveis.
“Haverá um conservador, e haverá um liberal, e haverá um chinês, e haverá um indiano”, disse Prince.
Essa fragmentação em linhas ideológicas está diretamente em desacordo com o propósito inicial da internet de ser um lugar onde as pessoas possam compartilhar e acessar informações sem barreiras, apenas conhecimento fluindo de e para qualquer pessoa, em qualquer lugar. Se as pessoas começarem a ter que assinar um punhado de grandes empresas de IA para ler suas perspectivas sobre o mundo, a informação ficará “siloizada”, diz Prince, enquanto a internet perde seu papel de “grande equalizador de informações, democratizador”.
Uma terceira possibilidade
Há uma terceira possibilidade mais brilhante, e é uma pela qual Prince e sua empresa, Cloudflare, estão lutando.
Atualmente, o conteúdo é gratuito para a IA. Mas Prince acha que isso está prestes a mudar. Ele prevê que as empresas de IA no futuro se parecerão mais com a Netflix, ou seja, uma empresa que licencia conteúdo de criadores para oferecer aos seus usuários uma biblioteca de conteúdo.
O conteúdo está provando ser a próxima batalha da IA. Durante uma das muitas audiências do processo antitruste do Google, o vice-presidente sênior de serviços da Apple, Eddy Cue, foi perguntado sobre o que seria necessário para a Apple escolher outro concorrente em vez do Google como seu motor de busca padrão para o navegador Safari. Cue disse que nenhum motor de busca existente poderia destronar o Google, mas a IA generativa poderia sob uma condição: a tecnologia é boa, o que precisa evoluir mais é o índice de busca da IA generativa, ou seja, os dados disponíveis para recuperação.
Para tornar essa possibilidade uma realidade, Prince acredita que os criadores de conteúdo precisam primeiro criar escassez bloqueando os scrapers de IA de acessar conteúdo sem pagar por ele. Uma lista crescente de editores e organizações de notícias já processou várias empresas de IA devido a lucros em declínio devido à raspagem de conteúdo sem compensação. A adição mais recente a isso foi na sexta-feira, quando a Penske Media Corporation, a empresa-mãe da Rolling Stone e do Hollywood Reporter, processou o Google por sua funcionalidade de Visão Geral da IA na busca.
A Cloudflare disparou seu primeiro tiro nessa guerra de escassez neste verão, quando começou a permitir que clientes bloqueassem crawlers de IA de rasparem seus sites, a menos que os responsáveis pelos bots paguem aos criadores pelos dados que consomem. Empresas como Associated Press e Conde Nast já são clientes.
“Esta é uma ameaça existencial para nós. Se a internet parar de existir, o que resta para a Cloudflare fazer? Então, uma das coisas que é realmente importante para nós é um ecossistema de internet próspero e vibrante”, disse Prince.
A terceira possibilidade parece melhor do que as duas anteriores (pelo menos para mim, um colega jornalista), mas traz muitas perguntas próprias. O Google mudou completamente a forma como as indústrias do conhecimento operam ao coroar o engajamento como rei, às vezes em detrimento da qualidade dessa informação. Qual será a ética operacional dessa nova era de informações, onde as organizações de notícias começam a agir como serviços de wire para chatbots de IA?