Para todos os defeitos da IA—como incentivar as pessoas a comer cogumelos mortais—às vezes ela pode ser usada para bons fins. A O2, a maior operadora de rede móvel do Reino Unido, implantou um chatbot de IA baseado em voz para provocar golpistas telefônicos em conversas longas e infrutíferas. Chamado Daisy, ou “dAIsy”, o chatbot imita a voz de uma pessoa idosa, o alvo mais comum dos golpistas telefônicos.
O propósito de Daisy é automatizar o “scambaiting”, ou a prática de desperdiçar intencionalmente o tempo dos golpistas telefônicos para mantê-los longe de potenciais vítimas reais o maior tempo possível. Os golpistas usam engenharia social para explorar a ingenuidade dos idosos, convencendo-os, por exemplo, de que devem impostos atrasados e estão prestes a ser presos se não enviarem dinheiro imediatamente.
Quando um golpista atende Daisy ao telefone, no entanto, eles estão em uma longa conversa que, em última análise, não levará a lugar nenhum. Se eles chegarem ao ponto em que o golpista pede informações pessoais, como dados bancários, Daisy inventará informações falsas. A O2 afirma que consegue alcançar os golpistas em primeiro lugar adicionando um número de telefone para Daisy em listas de “alvos fáceis” que os golpistas usam como leads.
Em um vídeo demonstrando Daisy, trechos de conversas reais mostram os golpistas se tornando cada vez mais exasperados, sendo mantidos ao telefone por mais de 40 minutos, e mantendo a esperança de que conseguirão um número de cartão de crédito ou dados bancários. O modelo de IA que a O2 criou soa muito convincente—ele faz todo o processamento em tempo real, mas felizmente isso é facilitado, pois os idosos tendem a falar bem devagar.
Claro, a preocupação com um chatbot como Daisy é que a mesma tecnologia pode ser usada para fins opostos—já vimos casos em que pessoas reais, como CEOs de grandes empresas, tiveram suas vozes deepfaked para enganar outros a enviar dinheiro para um golpista. Os idosos já são vulneráveis o suficiente. Se eles receberem uma ligação de alguém que soa como um neto, é quase certo que acreditarão que é real.
Em última análise, bloquear chamadas fraudulentas e fechar as organizações que operam esses golpes seria a solução ideal. As operadoras melhoraram em identificar golpistas e bloquear seus números, mas continua sendo um jogo de gato e rato. Os golpistas aproveitam ferramentas de discagem automatizada que lhes permitem discar números em rápida sucessão e são alertados pela ferramenta apenas quando recebem uma resposta. Um bot de IA que frustra os golpistas ao atender e desperdiçar seu tempo é melhor do que nada.