Futuristas preocupados que estamos deslizando para uma distopia alimentada por IA onde a raça humana abdica de seus poderes éticos, de tomada de decisão e intelectuais para um grupo de algoritmos corporativos precisam olhar para Ulf Kristersson para justificar seus medos.
Kristersson, que é o primeiro-ministro da Suécia, admitiu recentemente durante um site de notícias nórdico que às vezes pede ao ChatGPT uma “segunda opinião” quando se trata de suas estratégias de governança.
“Eu uso isso com bastante frequência”, disse Kristersson durante a entrevista. “Se não por nada, pelo menos para uma segunda opinião. O que os outros fizeram? E devemos pensar o oposto completo? Esses tipos de perguntas.”
Previsivelmente, Kristersson foi imediatamente criticado por seus comentários. “Quanto mais ele depende da IA para coisas simples, maior o risco de confiança excessiva no sistema”, disse Virginia Dignum, professora de inteligência artificial responsável na Universidade de Umeå, durante uma conversa com o mesmo veículo que entrevistou o PM. “É uma ladeira escorregadia. Devemos exigir que a confiabilidade possa ser garantida. Não votamos no ChatGPT.”
O PM também foi criticado por uma variedade de outros veículos, todos os quais pareciam sentir que a governança via chatbot não era o caminho ideal para a civilização ocidental. “É uma pena para a Suécia que a IA na maioria das vezes apenas chuta”, escreveu Signe Krantz, do Aftonbladet. “Chatbots preferem escrever o que acham que você quer do que o que você precisa ouvir.”
Krantz faz um bom ponto, que é que chatbots podem ser incrivelmente bajuladores e delirantes. Se você tem um líder fazendo perguntas tendenciosas a um chatbot, pode imaginar um cenário em que os algoritmos do programa de software apenas servem para reforçar as prerrogativas existentes desse líder (ou empurrá-los ainda mais para o território desconhecido). Felizmente, não parece que muitos políticos sintam a necessidade de usar o ChatGPT como um conselheiro ainda.
Se Kristersson realmente depende de um chatbot enquanto navega por suas funções de liderança ou se, na verdade, estava apenas tentando parecer descolado ao mencionar um produto tecnológico popular durante uma entrevista, é claro que a IA está sendo cada vez mais usada por todos os tipos de pessoas para terceirizar capacidades intelectuais que, apenas alguns anos atrás, eram exclusivamente domínio da mente humana. Essa é uma situação perigosa, pois a indústria de tecnologia já tem atrofiado nossa capacidade de pensar por duas décadas. Quão mais estúpidos podemos nos tornar? Acredito que todos nós estamos prestes a descobrir.