Instituições de pesquisa chinesas com conexões com o exército chinês desenvolveram sistemas de IA usando o modelo Llama de código aberto da Meta. Artigos discutindo o modelo de IA são inequívocos: os bots têm aplicações militares.
De acordo com um relatório da Reuters, seis pesquisadores chineses de três instituições diferentes com conexões com o Exército de Libertação Popular (PLA) publicaram um artigo sobre a IA em junho. Os pesquisadores utilizaram o Llama 13B, uma versão inicial do modelo de linguagem grande de código aberto da Meta, e o treinaram com dados militares com o objetivo de criar uma ferramenta que pudesse coletar e processar inteligência e ajudar na tomada de decisões.
Eles o chamaram de ChatBIT. “No futuro, através do refinamento tecnológico, o ChatBIT não só será aplicado à análise de inteligência, mas também … o planejamento estratégico, o treinamento de simulação e a tomada de decisões de comando serão explorados”, disse o artigo, de acordo com uma tradução da Reuters.
O ChatBIT foi treinado usando 100.000 registros de diálogos militares. Outro artigo do mesmo período descreveu como um LLM baseado em Llama já foi implantado para policiamento doméstico. Assim como o ChatBIT, a versão doméstica ajuda a polícia a coletar e processar grandes quantidades de dados para auxiliar na tomada de decisões.
Em um terceiro artigo que a Reuters descobriu, dois pesquisadores de uma empresa de aviação conectada ao PLA estão usando o Llama 2 para guerra. O bot é para “o treinamento de estratégias de interferência eletrônica aérea”, disse a Reuters.
Estamos vivendo uma corrida do ouro em IA. Empresas como OpenAI e Microsoft estão tentando ganhar milhões de dólares com sistemas de IA proprietários que prometem o impossível. Muitos desses sistemas são fechados, uma caixa preta na qual as entradas e os dados de treinamento são mal compreendidos pelo usuário final.
Mark Zuckerberg tomou um caminho diferente para a Meta. Em um ensaio de julho que invocou sistemas de código aberto padrão de ouro como Unix e Linux, Zuckerberg decretou que “a IA de código aberto é o caminho a seguir”.
“Há um debate em andamento sobre a segurança dos modelos de IA de código aberto, e minha opinião é que a IA de código aberto será mais segura do que as alternativas”, disse o ensaio. “Acho que os governos concluirão que é do seu interesse apoiar o código aberto porque tornará o mundo mais próspero e seguro.”
Na época, Zuckerberg também afastou os temores de que a China conseguiria acesso ao Llama. Ele argumentou que os benefícios superavam os riscos. “Algumas pessoas argumentam que devemos fechar nossos modelos para impedir que a China tenha acesso a eles, mas minha opinião é que isso não funcionará e apenas desvantajará os EUA e seus aliados”, disse ele. “Nossos adversários são ótimos em espionagem, roubar modelos que cabem em um pen drive é relativamente fácil, e a maioria das empresas de tecnologia está longe de operar de uma maneira que tornaria isso mais difícil. Parece mais provável que um mundo apenas com modelos fechados resulte em um pequeno número de grandes empresas, além de nossos adversários geopolíticos, tendo acesso aos modelos líderes, enquanto startups, universidades e pequenas empresas perdem oportunidades.”
A Meta delineia práticas aceitáveis para o uso de seus LLMs de código aberto. A lista inclui proibições contra “militar, guerra, indústrias nucleares ou aplicações, espionagem, uso para materiais ou atividades” e “qualquer conteúdo destinado a incitar ou promover violência, abuso ou qualquer inflição de dano corporal a um indivíduo.”
Essas são, é claro, as coisas que um exército faz. Todo o seu trabalho é infligir dano corporal a um indivíduo. “Qualquer uso de nossos modelos pelo Exército de Libertação Popular é não autorizado e contrário à nossa política de uso aceitável”, disse Molly Montgomery, diretora de políticas públicas da Meta, à Reuters.
Mas não há recurso aqui para a Meta. O Llama está por aí. A China está usando-o. A empresa de Zuckerberg não tem como impedir isso. A revolução do código aberto continua.