A Google simplesmente não consegue escapar do drama relacionado à sua campanha publicitária do Super Bowl que deveria promover seu modelo de IA Gemini. O que originalmente se pensava ser uma informação alucinatória do Gemini—o que já seria ruim por si só—acaba por não ter vindo nem mesmo do Gemini. Claro, chatbots de IA tendem a ser máquinas de plágio, mas isso parece ser inteiramente culpa da Google.
Só para te atualizar: a compra de anúncios planejada pela Google para o Big Game deste ano inclui 50 histórias separadas destacando pequenas empresas em todos os 50 estados que usaram ferramentas do Gemini para ajudar suas operações. O anúncio de Wisconsin centra-se em uma loja de queijos chamada Wisconsin Cheese Mart. No anúncio, sugere-se que a empresa usou o Gemini para gerar textos para seu site. Esse texto incluía a afirmação de que o gouda representa “50 a 60 por cento do consumo de queijo no mundo”, o que não é verdade. A Google foi criticada por isso e eventualmente alterou o texto que aparece no anúncio para excluir essa informação incorreta sobre o queijo.
Agora, como se vê, esse texto incorreto nem mesmo foi gerado pelo Gemini, apesar do anúncio sugerir que foi. Graças ao Internet Archive, podemos ver que o texto originalmente supostamente gerado pelo Gemini está no site da Wisconsin Cheese Mart desde 2020.
Então, boas notícias: o Gemini não é responsável pelo erro factual no texto do site. Más notícias: o Gemini não é responsável por nenhum do texto do site, apesar de a Google aparentemente afirmar que o negócio usou a ferramenta de IA para gerar o texto.
Tornando tudo isso ainda mais embaraçoso está o fato de que um executivo da Google defendeu publicamente o texto original, que não foi gerado por IA. Jerry Dischler, o Presidente de Aplicações em Nuvem da Google Cloud, insistiu em uma troca no Twitter que o texto “não é uma alucinação” e que “o Gemini está fundamentado na Web”. Isso pode ser verdade, mas as evidências sugerem que este exemplo particular não estava fundamentado em nada, porque não veio do Gemini em primeiro lugar.
Agora a Google está em uma posição bastante desconfortável. Defendeu seu modelo de IA por compartilhar informações falsas, apenas para ser revelado que o modelo de IA nem mesmo gerou o texto. E a empresa estava pronta para gastar milhões de dólares para anunciar a funcionalidade de seu conjunto de IA com exemplos que nem mesmo são realmente da ferramenta em si. Estamos a um passo de este anúncio seguir o caminho de antigos trailers de videogame que mostrariam um clipe promocional extremamente polido com a ressalva “não é a filmagem real do jogo” abaixo. “Claro, isso não é gerado por IA, mas imagine se fosse!”