O Comitê de Segurança Interna da Câmara enviou uma carta ao CEO da Anthropic, Dario Amodei, para testemunhar no dia 17 de dezembro sobre uma campanha de ciberataque alegadamente conduzida por atores afiliados à China usando a IA Claude da empresa, de acordo com um novo relatório da Axios.
O presidente do Comitê de Segurança Interna da Câmara, Andrew Garbarino, um republicano de Nova York, enviou cartas a Amodei, bem como ao CEO do Google Cloud, Thomas Kurian, e ao CEO da Quantum Xchange, Eddy Zervigon, todos solicitando que testemunhassem no próximo mês. Se Amodei concordar em testemunhar, será a primeira vez que um executivo da Anthropic aparecerá diante de um comitê do Congresso, segundo a Axios.
A Anthropic explicou em um relatório de 13 de novembro que detectou atividade suspeita em meados de setembro e, após uma investigação, descobriu que havia uma “campanha de espionagem altamente sofisticada”. Os atacantes usaram as capacidades agentivas de Claude “de uma maneira sem precedentes” para realmente executar os ataques, de acordo com a empresa:
O ator de ameaça – que avaliamos com alta confiança como um grupo patrocinado pelo estado chinês – manipulou nossa ferramenta Claude Code para tentar infiltração em aproximadamente trinta alvos globais e teve sucesso em um pequeno número de casos. A operação visou grandes empresas de tecnologia, instituições financeiras, empresas de fabricação química e agências governamentais. Acreditamos que este é o primeiro caso documentado de um ciberataque em larga escala executado sem intervenção humana substancial.
A empresa chamou isso de uma escalada da “vibe hacking” que tem sido vista nos últimos meses. O termo “vibe coding” entrou no léxico nacional no último ano, quando mais e mais pessoas sem experiência em programação começaram a usar ferramentas de IA generativa para criar e implantar código.
A terminologia vibe se expandiu para incluir uma série de outros usos, talvez mais infamemente quando o fundador da Uber, Travis Kalanick, apareceu no podcast All-In e disse que estava fazendo “física vibe”. Kalanick convenceu a si mesmo de que estava descobrindo novos tipos de ciência, algo que grandes modelos de linguagem simplesmente não são capazes de fazer.
Por que a Anthropic estaria construindo ferramentas que poderiam permitir ciberataques contra os EUA? A empresa abordou isso em seu relatório de 13 de novembro e disse que Claude era crucial para a defesa cibernética:
Isso levanta uma questão importante: se modelos de IA podem ser mal utilizados para ciberataques em tal escala, por que continuar a desenvolvê-los e liberá-los? A resposta é que as mesmas habilidades que permitem que Claude seja usado nesses ataques também o tornam crucial para a defesa cibernética. Quando ciberataques sofisticados inevitavelmente ocorrerem, nosso objetivo é que Claude – no qual construímos fortes salvaguardas – ajude os profissionais de cibersegurança a detectar, interromper e se preparar para futuras versões do ataque. De fato, nossa equipe de Inteligência de Ameaças usou Claude extensivamente na análise das enormes quantidades de dados geradas durante esta investigação.
“Pela primeira vez, estamos vendo um adversário estrangeiro usar um sistema de IA comercial para realizar quase toda uma operação cibernética com mínima intervenção humana”, disse Garbarino à Axios em uma declaração. “Isso deve preocupar todas as agências federais e todos os setores de infraestrutura crítica.”
Contatado por telefone, um porta-voz da Anthropic se recusou a comentar oficialmente na quarta-feira sobre a audiência iminente.