À medida que 2024 se aproxima do fim, o cenário na tecnologia empresarial é que empresas de todos os tamanhos e setores estão ansiosas para aproveitar seus dados em aplicações de IA generativa que melhoram processos internos (voltados para funcionários) ou externos (voltados para clientes/parceiros).
No entanto, garantir que façam isso de maneira segura é outro desafio — especialmente para empresas que não se especializam em segurança. Para muitas empresas, suas soluções de segurança existentes podem ser inadequadas ou não preparadas para a era da IA e as muitas capacidades que desejam liberar com seus dados processados por IA.
Entra a Noma, uma startup israelense especializada em segurança de IA empresarial, que hoje sai do modo stealth com uma rodada de investimento Série A liderada por $32 milhões da Ballistic Ventures e apoiada por Glilot Capital Partners e Cyber Club London, além de investidores anjo, incluindo os diretores de segurança da informação (CISOs) de empresas como McDonald’s, Google DeepMind, Twitter, Atlassian, BNP Paribas, T-Mobile e Nielsen.
A Noma fornece uma plataforma de segurança abrangente que garante a integridade dos dados dos clientes empresariais desde o início, antes de fazer qualquer coisa com eles, até utilizá-los para treinar e/ou implantar modelos de IA e aplicações personalizadas.
A plataforma já está em uso por várias empresas da Fortune 500.
Enfrentando desafios de segurança no cenário de dados e IA
Niv Braun, co-fundador e CEO da Noma, disse à VentureBeat em uma entrevista sobre a necessidade urgente de segurança direcionada em fluxos de trabalho de IA. “Os modelos de IA e ciência de dados de hoje enfrentam riscos de segurança únicos, como injeção de prompt e vazamento de dados, que simplesmente não são cobertos por ferramentas de segurança padrão,” disse ele.
Esses problemas estão se tornando mais comuns à medida que as organizações enfrentam incidentes de segurança devido a ferramentas de MLOps mal configuradas e modelos de código aberto não verificados.
Essa lacuna inspirou Braun e seu co-fundador, Alon Tron, a criar a Noma.
“Meu co-fundador Alon e eu servimos juntos no exército, e vimos em primeira mão a lacuna nas ferramentas de segurança para ciência de dados e fluxos de trabalho de IA,” disse Braun. “Na segurança de aplicações, tínhamos ferramentas que ajudavam os engenheiros de software a trabalharem de forma segura, mas para as equipes de dados — cientistas de dados, engenheiros e analistas — não havia nada semelhante. Eles estavam desprotegidos.”
Ambos os co-fundadores serviram na unidade de inteligência 8200 de Israel. Combinando a experiência de seus antecedentes em segurança e ciência de dados, eles rapidamente formaram uma equipe habilidosa em segurança de IA e aplicações.
O que a plataforma de três camadas da Noma oferece
A plataforma da Noma foi projetada para proteger cada estágio do desenvolvimento e operação de modelos de IA, incorporando ferramentas de segurança que cobrem:
Segurança da Cadeia de Suprimentos de Dados e IA: Garante ambientes seguros, pipelines e ferramentas de desenvolvimento, mitigando o risco de dados e cadeias de suprimentos de IA comprometidos.
Gerenciamento da Postura de Segurança de IA (AI-SPM): Fornece uma solução abrangente de inventário e gerenciamento de segurança para modelos de IA de primeira e terceira partes, visando proteger ativos antes de entrarem em produção.
Detecção e Resposta a Ameaças de IA: Monitora ativamente aplicações de IA para detectar ataques adversariais em tempo real e impor protocolos de segurança durante a execução.
Braun enfatizou a consolidação que a plataforma da Noma oferece aos clientes. “Nossa plataforma inclui três produtos: segurança da cadeia de suprimentos de dados e IA, gerenciamento da postura de segurança de IA e defesa em tempo de execução de IA.”
Mas, para aqueles que desejam, cada um dos três domínios pode ser aplicado ad hoc, à la carte.
“Uma grande força da nossa plataforma é que ela consolida tudo em uma única solução,” explicou Braun. “Embora os clientes possam escolher apenas uma parte, a maioria prefere a abordagem abrangente.”
Braun esclareceu que a Noma oferece uma escolha entre uma licença empresarial inclusiva e uma opção modular baseada em produtos, ambas com base em uma assinatura anual de software como serviço (SaaS). Ele disse que 95% dos clientes até agora escolheram a abordagem integrada e tudo-em-um.
Os comentários de Braun sugerem que a licença empresarial é posicionada como a escolha mais econômica e flexível para os clientes que buscam acesso extenso às soluções da Noma.
Máxima flexibilidade e facilidade de uso
A plataforma da Noma é compatível com ambientes diversos, suportando configurações baseadas em nuvem, SaaS ou auto-hospedadas, e é instalada em minutos sem exigir alterações de código.
“A integração é fácil,” disse Braun. “Tudo que os clientes precisam fazer é conectar nossa plataforma via API, e nós automaticamente mapeamos e escaneamos tudo em seu ambiente.”
Essa configuração sem atritos significa que as equipes de ciência de dados podem implementar controles de segurança sem interromper seus fluxos de trabalho, um recurso que a Noma destaca como essencial no desenvolvimento acelerado e impulsionado por IA.
Kobi Samboursky, fundador e parceiro gerente da Glilot Capital Partners, elogiou o valor da abordagem unificada da Noma em um comunicado à imprensa: “A AppSec evoluiu ao longo de décadas com ferramentas fragmentadas para análise estática e dinâmica, código aberto, cadeia de suprimentos e tempo de execução. As equipes de segurança perceberam que precisam de soluções consolidadas. A Noma está posicionada de forma única para enfrentar esse problema desde o início, consolidando múltiplos casos de uso em uma única plataforma.”
Além disso, a Noma pode ser aplicada por aqueles sem treinamento extenso em segurança ou infraestrutura de dados.
“Trabalhamos com equipes de dados e IA, bem como com equipes de segurança, e nossa plataforma não requer profunda especialização em nenhum dos campos,” disse ele. “Mesmo em casos onde as equipes de segurança realizaram POCs (provas de conceito) sem a participação das equipes de ciência de dados, constataram que era fácil integrar e usar.”
Ao mesmo tempo, a plataforma transforma esses assuntos em insights digestíveis e fáceis de entender para funcionários de todos os departamentos.
“A própria plataforma é muito autoeducativa,” observou Braun. “Ela explica os princípios básicos da segurança de uma maneira que as equipes de segurança de aplicações estão familiarizadas, mas com uma nova camada de ‘dados e IA’.”
Abordando desejos e necessidades da indústria
À medida que a segurança e a conformidade se tornam mais críticas na adoção de IA, a Noma visa facilitar a colaboração entre equipes de ciência de dados e segurança.
“Nossa missão é preencher a lacuna entre as equipes de ciência de dados e segurança, tornando fácil para ambas colaborarem na proteção dos fluxos de trabalho de IA,” disse Braun.
A abordagem da Noma é projetada para melhorar a transparência e simplificar os processos de segurança.
“Tornamos a segurança simples para ambas as equipes, fornecendo informações claras e compreensíveis sobre riscos e etapas para remediação,” acrescentou. “É tudo sobre reduzir atritos e melhorar a colaboração.”
Jake Seid, co-fundador e parceiro geral da Ballistic Ventures, enfatiza a importância da segurança desde o início em uma declaração em um comunicado à imprensa.
“À medida que a segurança e a conformidade se tornam mais importantes para as organizações que adotam IA, incorporar segurança desde o início garante que a inovação possa florescer sem compromissos,” disse Seid. “A abordagem da Noma dá às equipes de AppSec total visibilidade e confiança, enquanto capacita as equipes de ciência de dados a se moverem rapidamente e gerarem valor para os negócios.”
As ambições da Noma são liderar o campo emergente
A entrada da Noma no mercado marca um passo significativo na segurança das operações empresariais impulsionadas por IA em escala.
Com o uso crescente de IA em aplicações críticas, o potencial para vulnerabilidades de segurança em fluxos de trabalho de IA se torna mais agudo.
A plataforma da Noma fornece uma salvaguarda muito necessária, permitindo que as empresas aproveitem o potencial da IA sem comprometer a segurança.
Além disso, a Noma está contribuindo ativamente para padrões de segurança de IA e participou do desenvolvimento de diretrizes do governo dos EUA, como o NIST SP 800-218A, por meio de seu envolvimento com o OWASP AI Exchange.
Com $32 milhões em novos fundos e tração inicial entre clientes de alto perfil, a Noma busca se tornar uma líder no campo emergente de segurança do ciclo de vida de dados e IA.