Cerca de dois meses atrás, o cofundador da Shield AI, Brandon Tseng, e um de seus funcionários estavam em um Uber atravessando Kyiv, Ucrânia. Eles estavam a caminho de uma reunião com oficiais militares para convencê-los a usar seus sistemas de pilotos de IA e drones, quando de repente seu funcionário lhe mostrou um alerta em seu telefone. Bombas russas estavam a caminho. Tseng encontrou seu possível destino com um encolher de ombros. “Se é sua hora de ir, então é sua hora de ir.”
Se alguma coisa, Tseng, um ex-SEAL da Marinha, estava ansioso por mais ação. Os funcionários da Shield AI já haviam estado em áreas muito mais perigosas na Ucrânia, treinando tropas em seu software e drones. “Estou bastante com inveja de onde eles puderam ir,” disse Tseng. “Apenas do ponto de vista da aventura.”
Tseng incorpora aquela masculinidade silenciosa que permeia a maioria dos fundadores de tecnologia de defesa. Quando o conheci no mês passado no escritório da empresa em Arlington, ele exibiu uma faca exposta em seu escritório gravada com o slogan dos SEALs “Sofra em silêncio.” As paredes brancas, cujos topos brilhavam com luzes fluorescentes (para parecer uma nave espacial, disse Tseng), estavam cobertas com slogans como “Faça o que a honra dita” e “Ganhe seu escudo todos os dias.” Eu apontei que eram bastante intensos. “São?” respondeu Tseng.
Em 2015, Tseng fundou a Shield AI junto com seu irmão, Ryan Tseng, um engenheiro elétrico premiado com patentes, com uma missão clara: “Construímos o melhor piloto de IA do mundo,” disse ele. “Quero colocar um milhão de pilotos de IA nas mãos dos clientes.”
Para esse fim, ele e seu irmão levantaram mais de $1 bilhão de investidores como Riot Ventures e o U.S. Innovative Technology Fund. A empresa desenvolve software de IA para tornar veículos aéreos autônomos, embora Tseng tenha dito que eles querem que o software da Shield AI esteja em sistemas subaquáticos e de superfície também. Também possui produtos de hardware, como seu drone V-BAT.
A Shield AI também faz parte de uma classe rara de startups de tecnologia de defesa: uma que realmente conseguiu contratos governamentais de tamanho considerável, como seu contrato de $198 milhões da Guarda Costeira este ano. Como se tentando se posicionar para um futuro ainda maior, os fundadores escolheram um novo escritório cercado por três andares da Raytheon, um dos principais contratantes de defesa.
Ucrânia: O laboratório para startups de tecnologia de defesa dos EUA
16 de setembro foi um sinal dos tempos em mudança: em vez de fazer os fundadores de tecnologia de defesa voarem para o Capitólio, vestirem seus ternos e implorarem aos políticos, Washington, D.C., veio até eles. Membros do Comitê de Serviços Armados da Câmara dos EUA se reuniram com o CTO da Palantir, Shyam Sankar, Brandon Tseng e executivos da Skydio, Applied Intuition e Saildrone no campus do Vale do Silício da UC Santa Cruz. Eles discutiram a reforma de aquisição do Departamento de Defesa dos EUA (DoD) e, inevitavelmente, o papel da tecnologia dos EUA na Ucrânia. Foi a primeira audiência pública que o comitê realizou fora de Washington, D.C., desde 2006.
A Ucrânia tem sido “um grande laboratório,” disse Tseng aos formuladores de políticas. “O que eu acho que os ucranianos descobriram é que eles não vão usar nada que não funcione no campo de batalha, ponto final.”
Fundadores de tecnologia de defesa, como o cofundador da Anduril, Palmer Luckey, e o cofundador da Skydio, Adam Bry, todos se dirigiram ao país em conflito para vender tecnologia relativamente nova para um campo de batalha que se deteriora rapidamente. Infelizmente, nem toda tecnologia dos EUA está funcionando. De acordo com um relatório do Wall Street Journal, drones de startups dos EUA falharam quase universalmente em operar através da guerra eletrônica na Ucrânia, o que significa que os drones param de funcionar sob a tecnologia de blackout de GPS da Rússia.
“A Ucrânia está em guerra e as pessoas estão sendo mortas. Mas… você quer tirar lições aprendidas,” disse Tseng a mim uma semana depois, refletindo sobre a audiência. “Você não quer ter que reaprender nenhuma dessas lições. Os Estados Unidos não deveriam querer reaprender nenhuma dessas lições.”
Naturalmente, ele está confiante de que os drones da Shield AI se saíram melhor na Ucrânia do que outros porque, segundo ele, eles podem operar sem depender de GPS. “Estamos trabalhando para enviar mais drones para lá com base nos sucessos que tivemos,” disse ele, embora tenha se recusado a nomear detalhes sobre quantos drones a Shield AI enviou.
Armas autônomas de IA ao estilo Terminator? Ou ‘Ender’s Game’?
O escritório de canto de Tseng é vazio, exceto por uma cópia emoldurada da Constituição, pendurada torta na parede. Ele listou isso como uma de suas maiores inspirações. “Não é porque somos perfeitos, mas porque aspiramos a esses valores que eu diria que são valores perfeitos,” disse ele. “Isso é o que mais importa. Estamos sempre marchando nessa direção.”
Ele endireitou a moldura antes de passar por uma história abreviada da guerra. A dissuasão, disse ele, tende a acontecer quando uma nova tecnologia radical emerge, como a bomba atômica, ou tecnologia stealth e GPS. A IA, disse ele, trará uma nova era de dissuasão — assumindo que o DoD a financie adequadamente. “Empresas privadas estão investindo mais dinheiro em IA e autonomia do que qualquer quantidade agregada no orçamento de defesa,” disse ele.
O valor potencial dos contratos federais relacionados à IA disparou para $4,6 bilhões em 2023, de $335 milhões em 2022, de acordo com um relatório da Brookings Institution. Mas isso ainda é uma fração dos mais de $70 bilhões que os VCs investiram em tecnologia de defesa em um período semelhante, segundo a PitchBook.
Ainda assim, a maior questão sobre o uso militar da IA não é o orçamento — é a ética. Fundadores e formuladores de políticas lidam com a questão de permitir armas completamente autônomas, significando que a IA decide por si mesma quando matar. Recentemente, a retórica de alguns fundadores parece estar do lado de construir tais armas.
Alguns dias atrás, por exemplo, Luckey, da Anduril, afirmou que havia “uma campanha secreta sendo travada nas Nações Unidas agora por muitos de nossos adversários” para enganar os países ocidentais a não perseguirem agressivamente a IA. Ele insinuou que a IA totalmente autônoma não era pior do que minas terrestres. Ele não mencionou, no entanto, que os EUA estão entre mais de 160 nações que concordaram em proibir o uso de minas terrestres antipessoal na vasta maioria dos lugares.
Tseng é firmemente contra armas totalmente autônomas. “Eu tive que tomar a decisão moral sobre utilizar força letal no campo de batalha,” disse ele. “Essa é uma decisão humana e sempre será uma decisão humana. Essa é a posição da Shield AI. Essa também é a posição do exército dos EUA.”
Ele está certo que o exército dos EUA atualmente não compra armas totalmente autônomas, embora não proíba as empresas de desenvolvê-las. E se os EUA mudassem sua posição? “Acho que é uma hipótese louca,” ele respondeu. “O Congresso não quer isso. Ninguém quer isso.”
Então, se ele não prevê um exército de assassinos ao estilo Terminator, o que ele imagina? “Uma única pessoa poderia comandar e controlar um milhão de drones,” disse Tseng. “Não há uma limitação tecnológica sobre quanto uma única pessoa poderia comandar efetivamente no campo de batalha.”
Vai ser semelhante a “Ender’s Game,” disse ele, referindo-se ao clássico de ficção científica de 1985, onde um jovem oficial militar pode liberar legiões de exércitos espaciais com o movimento de uma mão.
“Exceto que, em vez de humanos reais que ele estava comandando, serão robôs,” disse Tseng.