Uma nova startup que se propõe a combater a praga dos deepfakes e das evidências falsificadas na era da IA está exibindo suas novidades no palco do Startup Battlefield na TechCrunch Disrupt 2024 esta semana. A ForceField está construindo um conjunto de APIs “pendentes de patente” chamadas MARQ, a primeira das quais é projetada para autenticar conteúdo.
Para contextualizar, um relatório de 2022 da agência de aplicação da lei da União Europeia, Europol, previu que 90% de todo o conteúdo online será gerado por IA até 2026. A internet já está cheia de conteúdo manipulado — seja totalmente gerado por máquina ou feito com a ajuda de IA — forçando grandes empresas de tecnologia a desenvolver novas ferramentas para enfrentar o problema. O Google anunciou no mês passado que começará em breve a sinalizar imagens geradas por IA em seu mecanismo de busca, seguindo os passos da Meta, que já fazia isso no Facebook e Instagram — embora com precisão questionável.
O YouTube, por sua vez, agora permite que as pessoas solicitem a remoção de conteúdo que simula seu rosto ou voz.
A questão do conteúdo “falso” não vai desaparecer, e é um problema que deu origem a uma série de startups que estão abordando a questão por vários meios, como Clarity, Reality Defender e Truepic, que levantaram somas consideráveis de investidores de renome nos últimos anos.
A ForceField, por sua vez, está se concentrando no nível do dispositivo, em vez do conteúdo — isso significa qualquer fluxo de dados, em qualquer dispositivo, onde a tecnologia da ForceField está presente. Isso pode ser um aplicativo móvel com a API da ForceField integrada, ou um sistema de gerenciamento de vídeo de câmera de vigilância ou hardware de drone — pode “assinar e hash para verificação” em tempo real.
‘Cadeia de custódia’
O primeiro produto da ForceField, chamado HashMarq, verifica as submissões de conteúdo e as rotula como autênticas, completas com um selo de autenticidade. Em vez de usar técnicas tangenciais como IA adversarial (ou seja, lutar contra a IA com IA) ou marca d’água, a tecnologia da ForceField estabelece uma “cadeia de custódia” para estabelecer a proveniência, verificando se uma peça específica de conteúdo foi alterada — isso é feito analisando os metadados de fluxos de dados e dispositivos conectados. O que estamos falando aqui é de tecnologia blockchain, embora a fundadora e CEO da ForceField, MC Spano, enfatize que esta não é uma startup “web3”.
“Estamos aproveitando o blockchain, não estamos usando moedas ou criptomoedas — não somos uma empresa web3”, disse Spano ao TechCrunch. “Estamos usando blockchain da maneira mais inata e intencional, que são os contratos inteligentes. Nós autenticamos qualquer coisa coletada, como um vídeo, foto, arquivo de áudio, uma captura de tela em um dispositivo móvel — mas também garantimos e autenticamos qualquer multimídia coletada em qualquer IoT, o que significa qualquer coisa, desde um BlackBerry até um robô. Mas qualquer dado em fluxo conforme é coletado, nós estamos assinando, estamos fazendo hash, e depois estamos usando tecnologia de livro-razão.
Esses “contratos inteligentes” vivem na blockchain (embora a ForceField não revele qual) para garantir sua segurança, transparência e imutabilidade — eles não podem ser alterados. Clientes corporativos — que podem incluir desde diretores de informação até equipes de confiança e segurança — podem acessar a tecnologia através de uma API ou SDK que eles integram em suas próprias aplicações. Portanto, o HashMarq basicamente serve como um certificado digital para conteúdo que passou em suas verificações de prova.
“Estamos construindo tecnologia para os bons — estamos antecipando que o mercado, ou seja, governos, empresas, pequenas empresas, até indivíduos, precisarão provar que o que estão colocando no mundo é real”, disse Spano. “Isso é comparado a algo como o que a Meta e outras empresas estão fazendo, onde estão basicamente rotulando algo que é gerado por IA.”
Então, o que exatamente a tecnologia da ForceField analisa ao avaliar a veracidade de um determinado ativo?
“Estamos olhando para cerca de 90 pontos de prova, mas não posso compartilhar todos eles”, disse Spano. “A noção é que estamos analisando a inteligência geoespacial em torno desse dispositivo, o que estava ao redor na época, quais sinais, quais outros dispositivos, e o tempo. Que horas esse dispositivo estava, especificamente, coletando esse vídeo? E quanto tempo passou da coleta até a submissão? Esses pontos sozinhos podem contar a jornalistas ou organizações de notícias ou à aplicação da lei muito mais do que eles teriam originalmente, e também podem apontar uma localização geográfica.
Embora a ForceField tenha surgido formalmente em 2021, Spano diz que a gênese do produto veio em 2018, quando ela foi agredida em Nova York, e posteriormente enfrentou grandes obstáculos tanto na coleta quanto na submissão das evidências exigidas pela aplicação da lei.
“Eu sabia que havia câmeras, sabia que a evidência poderia ser coletada”, disse Spano. “Mas quando liderei com o NYPD para obter a evidência, eles não obtiveram uma intimação — então eu tive que ir ao proprietário da câmera eu mesma para solicitar a filmagem. Eu a gravei com meu telefone e, quando entreguei essa gravação ao NYPD, eles disseram que não era admissível. E foi então que percebi que o sistema de justiça começa muito antes nos tribunais.
E isso leva ao cerne do problema que Spano e a ForceField estão tentando resolver — um problema que se tornou ainda maior na era da IA generativa, onde qualquer pessoa com um laptop pode criar “evidências” plausíveis, mas totalmente falsas.
Prova de conceito
Ainda é cedo, mas a ForceField está desenvolvendo uma prova de conceito (PoC) com a gigante de seguros Erie, enquanto Spano diz que a empresa também tem cartas de intenção assinadas com três clientes adicionais, com planos de finalizar a PoC e lançar comercialmente no primeiro trimestre de 2025.
Embora os seguros sejam um grande mercado para a ForceField no início, Spano diz que, com o advento da IA e a capacidade de praticamente qualquer pessoa criar ativos com aparência autêntica, não há limites reais nas indústrias em que pode se aplicar. Um jornalista cidadão, por exemplo, que capturou um vídeo em seu dispositivo móvel, poderia submetê-lo a uma estação de notícias, que integraria com a API da ForceField para determinar a autenticidade dos dados de origem. A aplicação da lei, também, poderia usar a tecnologia para verificar submissões de testemunhas ou vítimas.
Em termos de financiamento, a empresa foi até agora financiada por uma mistura de autofinanciamento (Spano vendeu uma empresa anterior) e capital fornecido por investidores-anjo, incluindo a atriz Debra Messing, bem como Wilfredo Fernandez, chefe de assuntos governamentais da X e um scout na firma de capital de risco Lightspeed. A ForceField também recebeu dinheiro através de sua participação no Techstars no ano passado, enquanto acaba de receber seu primeiro financiamento institucional através de um investimento estratégico de seu cliente, Erie Insurance.
Spano também disse que espera fechar uma rodada seed até o final do ano, acrescentando que acredita que um dos aspectos mais importantes da empresa é que ela é completamente liderada por mulheres em um espaço muito dominado por homens.
“Há um grande problema com o financiamento de equipes solo de mulheres aqui nos EUA”, disse Spano. “Sou a única mulher construindo esse tipo de tecnologia agora, todos os outros concorrentes são liderados por homens — então ter uma voz feminina, e transparência, e honestidade, e verdade… é muito importante.