Os golpistas digitais nunca foram tão bem-sucedidos. No ano passado, os americanos perderam US$ 16,6 bilhões para crimes online, com quase 200.000 pessoas relatando golpes como phishing e spoofing ao FBI. Mais de US$ 470 milhões foram roubados em golpistas que começaram com uma mensagem de texto no ano passado, de acordo com a Comissão Federal de Comércio. E, como o maior fabricante de sistemas operacionais móveis do mundo, o Google tem corrido para fazer algo, construindo ferramentas para alertar os consumidores sobre possíveis fraudes.
Antes do lançamento do Android 16 na próxima semana, a empresa anunciou na terça-feira que está expandindo seu recurso de detecção de golpes alimentado por IA, conhecido como Detecção de Golpes, para fornecer alertas sobre mensagens potencialmente nefastas, como possíveis golpes de criptomoeda, impersonação financeira, golpes de cartões-presente e prêmios, golpes de suporte técnico e mais. Combinado com outros recursos de segurança baseados em IA para o Google Messages – todos que funcionam localmente nos dispositivos dos usuários e não compartilham dados ou conteúdo de mensagens com a empresa – o Android agora detecta cerca de 2 bilhões de mensagens suspeitas por mês.
“A fraude é verdadeiramente de partir o coração”, diz Dave Kleidermacher, vice-presidente de engenharia na divisão de segurança e privacidade do Android. “Há realmente uma quantidade muito grande – quase epidêmica e uma praga para a humanidade – de fraudes financeiras em todo o mundo.”
Os golpistas operam por todo o mundo, mas grupos de golpistas chineses estão por trás de milhões de mensagens fraudulentas, exigindo coisas como pagamentos de “pedágio” ou informações para supostas entregas de serviços postais. Quando as pessoas clicam nos links e inserem seus dados, incluindo informações de pagamento, os golpistas roubam seus dados. Em alguns casos, os golpes são projetados como uma espécie de ataque rápido, onde os atacantes rapidamente enganam os usuários para que entreguem algumas migalhas de informação, como um par de credenciais de login ou um número de cartão de crédito. Esses golpes tendem a ser mais formulaicos e são potencialmente mais fáceis de detectar. O desafio mais complexo está em detectar golpes de investimento ou romances altamente envolventes – frequentemente chamados de golpes de engorda de porcos – que se desenvolvem ao longo de meses de mensagens enquanto os golpistas criam um relacionamento com suas vítimas antes de enganchar seus (por vezes, as economias da vida) ou até fazer com que elas fiquem endividadas para enviar mais dinheiro.
“Leva tempo para eles chegarem ao golpe – não é apenas clicar no link”, diz Kleidermacher. “Ao ter a IA no dispositivo, você pode, na verdade, observar essas conversas mais sofisticadas e então detectar seus golpes.”
Em uma captura de tela do recurso de Detecção de Golpes fornecida pelo Google, um chat criptografado do RSC mostra uma mensagem de golpe típica dizendo que um pagamento de pedágio do EZ Pass está pendente. A mensagem acrescenta que a “capacidade legal” de dirigir pode ser revogada se o pagamento não for feito. A mensagem inclui um link que direciona alguém para um site de pagamento malicioso. A sobreposição da Detecção de Golpes na parte inferior da tela diz que “atividade suspeita” foi detectada na mensagem e oferece uma maneira de relatar e bloquear o remetente, ao lado de uma opção que permite que as pessoas sinalizem que não se trata de um golpe.
O Google está longe de ser a única empresa que usa IA para tentar combater golpistas e evitar que eles cheguem às caixas de entrada das pessoas. Algumas têm recorrido à IA para combater diretamente os golpistas. A empresa britânica de telecomunicações O2, por exemplo, criou uma “IA Vovó” que está configurada para manter golpistas ao telefone e perder seu tempo. E o golpista online Kitboga criou uma série de bots para fazer chamadas simultâneas a centros de atendimento que operam golpes.
Enquanto isso, nos últimos meses, a Meta, que possui o WhatsApp, Messenger e Instagram, começou a introduzir avisos pop-up quando as pessoas são solicitadas a fazer pagamentos em mensagens de chat. Em outro lugar, a empresa de cibersegurança F-Secure criou uma ferramenta beta para ajudar as pessoas a identificar se uma mensagem e um remetente são provavelmente golpistas e bloquear mensagens. Colocar uma camada de fricção que desencoraja as pessoas a responder mensagens que não conhecem pode reduzir as chances de os golpistas terem sucesso.
Kleidermacher diz que a empresa está vendo “um impacto realmente positivo” ao usar seus sistemas de aprendizado de máquina para detectar mensagens de golpe potenciais em tempo real. À medida que as proteções continuam a amadurecer, ele observa que o sistema subjacente pode eventualmente se prolifera além do aplicativo Google Messages para plataformas de comunicação de terceiros.
Por enquanto, parte dessa expansão está começando dentro dos próprios produtos do Google. A empresa também anunciou na terça-feira que está nas fases iniciais de teste de maneiras de incorporar a detecção de golpes para chamadas telefônicas, mas essa capacidade não foi amplamente implantada.