A IA está dando aos golpistas uma maneira mais convincente de se passar por policiais, mostram os relatórios.
Na semana passada, o Departamento de Polícia de Salt Lake City (SLCPD) alertou sobre um golpe por e-mail que usava IA para clonar de forma convincente a voz do Chefe de Polícia Mike Brown.
Um cidadão alertou a polícia após receber um e-mail suspeito que incluía um vídeo mostrando o chefe de polícia afirmando que ele “devia ao governo federal quase $100.000.”
Para enganar suas vítimas, os golpistas montaram um vídeo real de uma das entrevistas anteriores de Brown na TV com áudio gerado por IA que, segundo o SLCPD, “é claro e imita de perto a voz do Chefe Brown, o que poderia levar os membros da comunidade a acreditar que a mensagem era legítima.”
O FBI alertou por anos sobre golpistas tentando extorquir se passando por policiais ou oficiais do governo. Mas, à medida que a tecnologia de clonagem de voz por IA avançou, esses golpes podem se tornar muito mais difíceis de detectar, a ponto de até mesmo as empresas mais inovadoras, como a OpenAI, hesitarem em lançar a tecnologia mais recente devido a preocupações óbvias sobre o potencial abuso.
O SLCPD observou que havia pistas no e-mail que impersonificava seu chefe de polícia que um cidadão mais experiente em tecnologia poderia ter percebido. Uma escuta mais atenta revela “que a mensagem tinha padrões de fala não naturais, ênfase estranha em certas palavras e um tom inconsistente,” além de “edições acústicas detectáveis de uma frase para outra.” E talvez o mais evidente, o e-mail de golpe veio de “uma conta do Google e tinha o nome do Departamento de Polícia de Salt Lake City seguido de um número numérico,” em vez de vir do domínio oficial de e-mail do departamento de polícia “slc.gov.”
O SLCPD não é o único departamento de polícia lidando com impersonificadores de policiais por IA. Tulsa teve um problema semelhante neste verão, quando golpistas começaram a ligar para os residentes usando uma voz falsa convincente projetada para soar como o oficial da polícia de Tulsa, Eric Spradlin, informou a Public Radio Tulsa. Um desenvolvedor de software que recebeu a ligação, Myles David, disse que entendia os riscos da IA hoje, mas que mesmo ele ficou “surpreso” e teve que ligar para a polícia para verificar se a chamada não era real.