A inteligência artificial pode um dia tornar os humanos obsoletos—não da maneira que você está pensando. Em vez de a IA se tornar tão boa em completar tarefas que substitui uma pessoa, podemos simplesmente nos tornar tão dependentes de ferramentas imperfeitas que nossas próprias habilidades atrofiam. Um novo estudo publicado por pesquisadores da Microsoft e da Universidade Carnegie Mellon descobriu que quanto mais os humanos dependem de ferramentas de IA para completar suas tarefas, menos pensamento crítico eles fazem, tornando mais difícil invocar essas habilidades quando necessário.
Os pesquisadores entrevistaram 319 trabalhadores do conhecimento—pessoas cujo trabalho envolve lidar com dados ou informações—e pediram que relatassem detalhes sobre como usam ferramentas de IA generativa no local de trabalho. Os participantes foram convidados a relatar as tarefas que foram solicitados a fazer, como usaram ferramentas de IA para completá-las, quão confiantes estavam na capacidade da IA de realizar a tarefa, sua capacidade de avaliar essa saída e quão confiantes estavam em sua própria capacidade de completar a mesma tarefa sem assistência de IA.
Ao longo do estudo, um padrão se revelou: quanto mais confiante o trabalhador estava na capacidade da IA de completar a tarefa, mais frequentemente ele sentia que poderia soltar as rédeas. Os participantes relataram uma “percepção de ativação do pensamento crítico” quando sentiam que podiam confiar na ferramenta de IA, apresentando o potencial para uma dependência excessiva da tecnologia sem exame. Isso foi especialmente verdadeiro para tarefas de menor risco, pois as pessoas tendiam a ser menos críticas. Embora seja muito humano deixar os olhos se esvaziarem para uma tarefa simples, os pesquisadores alertaram que isso poderia indicar preocupações sobre “dependência a longo prazo e diminuição da resolução independente de problemas.”
Por outro lado, quando os trabalhadores tinham menos confiança na capacidade da IA de completar a tarefa designada, mais eles se viam engajando em suas habilidades de pensamento crítico. Em troca, eles geralmente relataram mais confiança em sua capacidade de avaliar o que a IA produziu e melhorá-lo por conta própria.
Outra descoberta notável do estudo: usuários que tinham acesso a ferramentas de IA generativa tendiam a produzir “um conjunto menos diversificado de resultados para a mesma tarefa” em comparação com aqueles sem. Isso faz sentido. Se você está usando uma ferramenta de IA para completar uma tarefa, você estará limitado ao que essa ferramenta pode gerar com base em seus dados de treinamento. Essas ferramentas não são máquinas infinitas de ideias, elas só podem trabalhar com o que têm, então é compreensível que suas saídas sejam mais homogêneas. Os pesquisadores escreveram que essa falta de resultados diversos poderia ser interpretada como uma “deterioração do pensamento crítico” para os trabalhadores.
O estudo não contesta a ideia de que existem situações em que ferramentas de IA podem melhorar a eficiência, mas levanta bandeiras de alerta sobre o custo disso. Ao depender da IA, os trabalhadores começam a perder a memória muscular que desenvolveram ao completar certas tarefas por conta própria. Eles começam a terceirizar não apenas o trabalho em si, mas seu envolvimento crítico com ele, assumindo que a máquina está cuidando disso. Portanto, se você está preocupado em ser substituído pela IA e a está usando de forma acrítica em seu trabalho, você pode estar criando uma profecia autorrealizável.