As empresas estão preocupadas que sua ânsia em adotar a IA as tornou mais vulneráveis a ciberameaças. De acordo com uma pesquisa recente com mais de 350 líderes de TI, mais da metade dos executivos entrevistados afirmaram que a complexidade das aplicações de IA enfraqueceu a postura de segurança de suas organizações. Mais de dois quintos dos executivos acreditam que suas equipes de segurança carecem das habilidades necessárias para proteger suas aplicações e cargas de trabalho de IA, segundo outra pesquisa.
A demanda por soluções para proteger aplicativos de IA gerou uma nova leva de startups. A HiddenLayer e a Protect AI, por exemplo, focam em defender sistemas de IA contra ataques adversariais, enquanto a Cranium oferece visibilidade em sistemas de IA no nível de aplicação.
Uma nova empresa que emerge de forma discreta hoje, a Noma Security, faz tudo isso e mais, afirma o cofundador e CEO Niv Braun. A startup está desenvolvendo ferramentas para identificar pipelines de dados vulneráveis e código em ambientes de ciência de dados, bem como ameaças como ataques de injeção de prompt.
Braun lançou a Noma com Alon Tron após deixar a firma de automação de experiência do cliente Verint, onde percebeu um “ponto cego significativo” para as equipes de segurança no ciclo de vida dos dados e da IA.
“Ferramentas existentes são projetadas para o ciclo de vida de software tradicional”, disse Braun. “No entanto, o ciclo de vida de dados e IA é inerentemente diferente. Envolve processos de P&D distintos, depende de tecnologias diferentes e enfrenta vulnerabilidades técnicas únicas dentro dos modelos de IA.”
A Noma foi projetada para ajudar a identificar – e corrigir – configurações incorretas nos componentes usados para desenvolver e executar aplicativos de IA. Por exemplo, a plataforma escaneia em busca de dados “sensíveis” em conjuntos de dados de treinamento de modelos, como textos contendo informações pessoais identificáveis.
Braun argumenta que as empresas podem estar melhor equipadas para lidar com ameaças se puderem consolidar as funções de segurança de aplicativos de IA em um único painel que pode ser implantado em ambientes baseados em nuvem e auto-hospedados.
“Muitas soluções de segurança de função única estão inundando o mercado, tentando capitalizar sobre o hype da IA”, disse ele. “Ao ajudar as empresas a entender sua presença de aplicativos de IA e fornecer controles de governança, a Noma não apenas ajuda as organizações a minimizar e mitigar riscos, mas também lhes dá a confiança de que precisam para expandir o uso da IA mais rapidamente e para partes de alto valor do negócio.”
Fundada em 2023, a Noma já tem clientes pagantes, diz Braun, incluindo clientes da Fortune 500 nos setores de software B2B, serviços financeiros e varejo. A startup recentemente fechou uma rodada de financiamento Série A de $25 milhões que, segundo Braun, foi preemptada por investidores; a Noma tinha dinheiro sobrando.
“Decidimos aceitar o [$25 milhões], mesmo com fundos substanciais ainda no banco, para acelerar nosso desenvolvimento e especialmente nossas equipes e esforços de entrada no mercado”, disse ele, acrescentando que a Noma planeja dobrar o tamanho de sua equipe de 20 pessoas no próximo ano.
A Ballistic Ventures liderou a Série A da Noma, que eleva o total de capital arrecadado pela empresa para $32 milhões. A Noma levantou $7 milhões em uma rodada de seed anteriormente não divulgada, liderada por Glilot Capital Partners com a participação do Cyber Club London.