Anos após a crescente crise global de bilhões de dólares dos golpes de “pig butchering”, a gigante das redes sociais Meta divulgou informações pela primeira vez na quinta-feira sobre sua abordagem para combater os complexos de trabalho forçado que alimentam a atividade de golpes em suas plataformas e na web.
A empresa afirma que, há mais de dois anos, tem se concentrado na colaboração com as forças de segurança globais e outras empresas de tecnologia para abordar o problema subjacente das organizações criminosas que dirigem a atividade de golpes no sudeste asiático e nos Emirados Árabes Unidos.
A Meta afirma que, até agora neste ano, fez a remoção de mais de 2 milhões de contas conectadas a complexos de golpes em Mianmar, Laos, Camboja, Filipinas e Emirados Árabes Unidos. A empresa também tem colaborado com especialistas externos, incluindo empresas de tecnologia, ONGs e coalizões que trabalham para combater golpes online. No entanto, como os golpes de ‘pig butchering’ geram receita significativa para os criminosos e se espalham pelo mundo, a Meta observa que se concentrou em trabalhar com as forças de segurança para rastrear diretamente as organizações criminosas.
“Este é um espaço altamente adversarial onde esperamos que organizações criminosas bem financiadas e persistentes constantemente evoluam suas táticas (tanto online quanto offline) em resposta à detecção e aplicação para tentar se reconstituir na internet”, escreveu um porta-voz da Meta em uma declaração. A empresa se recusou a compartilhar quantas contas havia removido antes deste ano.
Pesquisadores de ‘pig butchering’ de longa data afirmam que a Meta tem sido lenta em reconhecer publicamente e diretamente o problema e o papel que suas muitas plataformas desempenham em conectar golpistas a potenciais vítimas. Eles enfatizam que os serviços da Meta estão longe de ser as únicas plataformas que os golpistas usam para alcançar vítimas. Mas plataformas como Facebook e Instagram são reconhecíveis e confiáveis em todo o mundo, então é inevitável, segundo os pesquisadores, que os golpistas gravitem em torno delas. E a Meta alertou seus usuários de forma ampla sobre golpes de investimento e romance.
“Estou feliz que a Meta finalmente esteja começando a falar sobre esse trabalho, mas na comunidade de pesquisa, sentimos que temos tentado chamar sua atenção por um longo tempo e colaborar com eles e eles frequentemente não estão se envolvendo conosco”, diz Ronnie Tokazowski, um pesquisador de ‘pig butchering’ de longa data e cofundador da ONG Inteligência para o Bem.
Desde aproximadamente 2020, quando os primeiros golpes de ‘pig butchering’ começaram a surgir, mais de 200.000 pessoas foram traficadas e mantidas em complexos—maioritariamente em Mianmar, Camboja ou Laos—onde são forçadas a desempenhar o papel de um golpista online. Se se recusarem, os criminosos que possuem os complexos de golpes, que estão tipicamente conectados ao crime organizado chinês, frequentemente os espancam ou torturam. Pessoas foram traficadas de mais de 60 países ao redor do mundo—geralmente após ver anúncios online prometendo empregos que parecem bons demais para serem verdade.
Os golpistas forçados são obrigados a enviar milhares de mensagens online para potenciais vítimas em todo o mundo diariamente. Eles têm a tarefa de construir relacionamentos, muitas vezes com o atrativo de amizade ou romance, e eventualmente convencer suas vítimas a enviar dinheiro como parte de “oportunidades de investimento” lucrativas. Individualmente, as vítimas perderam centenas de milhares de dólares, enquanto as empresas criminosas de ‘pig butchering’ coletivamente enganaram as pessoas em cerca de 75 bilhões de dólares nos últimos anos.
“Esses golpes podem começar em aplicativos de namoro, mensagem de texto, email, redes sociais ou aplicativos de mensagem, e então, em última análise, se mover para contas controladas por golpistas em aplicativos de cripto ou sites de golpes que se disfarçam como plataformas de investimento”, escreve a Meta em seu relatório. “Além de interromper os centros de golpes, equipes em toda a Meta estão constantemente lançando novos recursos de produtos para ajudar a proteger as pessoas em nossos aplicativos de táticas de golpes conhecidas em escala.”
Os golpes de ‘pig butchering’ visam o roubo financeiro, mas começam com comunicação fria um-a-um entre golpistas e potenciais vítimas ou contatos que se originam de grupos em redes sociais ou outros fóruns comunitários. Por exemplo, Gary Warner, diretor de inteligência da empresa de cibersegurança DarkTower, diz que rastreia milhares de grupos no Facebook dedicados a atrair pessoas para golpes de investimento em criptomoedas, bem como grupos que supostamente são recursos comunitários de namoro onde golpistas estão à espreita.
A moderação online de golpistas é uma questão difícil e de longa data para as grandes tecnologias. Como é o caso de muitos tipos de conteúdo inautêntico, algumas atividades de ‘pig butchering’ podem contornar os padrões das empresas de tecnologia—mesmo quando estão realizando um grande número de remoções de contas—porque o conteúdo não é explícito o suficiente para atender aos critérios de remoção.
“Tanto do que está na plataforma é claramente o prelúdio para o ‘pig butchering’, mas a Meta diz que ‘não viola os padrões da comunidade’”, diz Warner.
A Meta enfatiza, no entanto, que além de suas remoções de contas e monitoramento de atividades de golpes em suas plataformas, a empresa está focada em trabalhar diretamente para combater complexos de golpes usando suas políticas em torno de organizações e indivíduos perigosos, bem como políticas de segurança mais amplas.
No entanto, os proprietários dos complexos de golpes foram rápidos em adotar novas tecnologias em suas operações, em parte para tornar suas atividades de golpistas mais eficientes, mas provavelmente também para evadir a aplicação da lei e os apertos da tecnologia. Nos últimos meses, pesquisadores detectaram golpistas de ‘pig butchering’ usando ferramentas de inteligência artificial, integrando deepfakes em suas campanhas e usando malware para expandir suas capacidades. Por exemplo, os golpistas agora conseguem gerar facilmente conteúdo compreensível em muitos idiomas usando ferramentas de tradução de IA tanto para os scripts quanto para as mensagens que enviam a potenciais vítimas, assim como anúncios de empregos que atraem trabalhadores em potencial para complexos de golpes.
A Meta afirma que um recente complexo de golpes contra o qual tomou medidas, que estava mirando falantes de japonês e chinês, seguiu uma dica de pesquisadores de ameaças da OpenAI que haviam detectado a operação criminosa usando o ChatGPT para traduzir mensagens que poderiam ser usadas em ‘pig butchering’.
Um “cluster” de contas que pareciam vir do Camboja foi detectado traduzindo e gerando comentários usando o ChatGPT, diz a porta-voz da OpenAI, Liz Bourgeois, à WIRED. Os comentários gerados usando IA seriam compartilhados nas redes sociais e pareciam estar ligados à atividade de golpes. Bourgeois diz que a OpenAI baniu as contas e relatou a atividade nas redes sociais à Meta.