Em vez de alterar radicalmente o cenário de ameaças, ferramentas da OpenAI como o ChatGPT são usadas principalmente para economizar tempo ou custos, sugeriu a OpenAI, como gerar biografias e postagens em redes sociais para escalar redes de spam que anteriormente poderiam ter “exigido uma grande equipe de trolls, com todos os custos e riscos de vazamento associados a tal empreendimento.” E quanto mais essas operações dependem da IA, sugeriu a OpenAI, mais fáceis elas se tornam de serem desmanteladas. Como exemplo, a OpenAI citou um caso de interferência eleitoral neste verão que foi rapidamente “silenciado” devido à dependência excessiva dos atores de ameaças em ferramentas da OpenAI.
“A dependência dessa operação em IA… a tornou incomumente vulnerável à nossa interrupção,” disse a OpenAI. “Porque aproveitou a IA em tantos elos da cadeia de destruição, nossa desativação quebrou muitos elos da cadeia de uma só vez. Depois que interrompemos essa atividade no início de junho, as contas de redes sociais que identificamos como parte dessa operação pararam de postar” durante os períodos eleitorais críticos.
A OpenAI não pode parar ameaças de IA sozinha
Até agora, a OpenAI disse que não há evidências de que suas ferramentas estejam “levando a avanços significativos” na “capacidade dos atores de ameaças de criar malware substancialmente novo ou construir audiências virais.”
Embora algumas das campanhas enganosas tenham conseguido envolver pessoas reais online, aumentando os riscos, a OpenAI afirmou que o impacto foi limitado. Na maior parte, suas ferramentas “ofereceram apenas capacidades limitadas e incrementais que já podem ser alcançadas com ferramentas públicas disponíveis, não baseadas em IA.”
À medida que o uso de IA pelos atores de ameaças continua evoluindo, a OpenAI prometeu manter a transparência sobre como suas ferramentas são usadas para amplificar e ajudar campanhas enganosas online. Mas o relatório da empresa de IA alertou que a colaboração será necessária para construir “defesas robustas e em múltiplas camadas contra atores cibernéticos ligados a estados e operações de influência encobertas que possam tentar usar nossos modelos em prol de campanhas enganosas em redes sociais e outras plataformas da Internet.”
A detecção apropriada de ameaças na Internet “também pode permitir que empresas de IA identifiquem conexões anteriormente não relatadas entre conjuntos aparentemente diferentes de atividades de ameaças,” sugeriu a OpenAI.
“As percepções únicas que as empresas de IA têm sobre atores de ameaças podem ajudar a fortalecer as defesas do ecossistema de informações mais amplo, mas não podem substituí-las. É essencial ver um investimento contínuo e robusto em capacidades de detecção e investigação em toda a Internet,” disse a OpenAI.
Como um exemplo de progresso potencial da IA interrompendo ameaças cibernéticas, a OpenAI sugeriu que, “à medida que nossos modelos se tornam mais avançados, esperamos também poder usar o ChatGPT para reverter engenharia e analisar os anexos maliciosos enviados a funcionários” em campanhas de phishing como a SweetSpecter’s.