O aplicativo de comunicação com criptografia de ponta a ponta, WhatsApp, utilizado por aproximadamente 3 bilhões de pessoas em todo o mundo, irá lançar em algumas semanas recursos de IA baseados em nuvem que são projetados para preservar as garantias de segurança e privacidade que definem o WhatsApp, ao mesmo tempo em que oferece aos usuários acesso a ferramentas de resumo e composição de mensagens.
A Meta tem incorporado recursos de IA generativa em seus serviços, que são baseados em seu modelo de linguagem de código aberto, Llama. E o WhatsApp já incorpora um círculo azul claro que dá aos usuários acesso ao assistente de IA da Meta. Mas muitos usuários se mostraram relutantes em relação a essa adição, uma vez que as interações com o assistente de IA não estão protegidas da Meta da mesma forma que as conversas do WhatsApp com criptografia de ponta a ponta. O novo recurso, denominado Processamento Privado, visa abordar essas preocupações com o que a empresa afirma ser uma plataforma cuidadosamente arquitetada e construída para processar dados para tarefas de IA sem que as informações sejam acessíveis à Meta, ao WhatsApp ou a qualquer outra parte. Embora as avaliações iniciais por pesquisadores da integridade do esquema tenham sido positivas, alguns observam que a mudança em direção a recursos de IA poderia, em última análise, colocar o WhatsApp em uma ladeira escorregadia.
“O WhatsApp é alvo e observado por muitos pesquisadores e agentes de ameaça. Isso significa que internamente ele tem um modelo de ameaça bem compreendido”, diz Chris Rohlf, diretor de engenharia de segurança da Meta. “Há também um conjunto existente de expectativas de privacidade dos usuários, então isso não se tratou apenas de gerenciar a expansão desse modelo de ameaça e garantir que as expectativas de privacidade e segurança fossem atendidas – foi uma consideração cuidadosa da experiência do usuário e de tornar isso opt-in.”
As comunicações com criptografia de ponta a ponta são acessíveis apenas ao remetente e ao destinatário, ou às pessoas em um grupo de chat. O provedor de serviços, neste caso, o WhatsApp e sua empresa-mãe Meta, é excluído por design e não pode acessar as mensagens ou chamadas dos usuários. Essa configuração é incompatível com plataformas típicas de IA generativa que executam grandes modelos de linguagem em servidores em nuvem e precisam de acesso às solicitações e dados dos usuários para processamento. O objetivo do Processamento Privado é criar uma estrutura alternativa através da qual as garantias de privacidade e segurança da comunicação criptografada de ponta a ponta possam ser mantidas enquanto se incorpora a IA.
Os usuários optam por usar os recursos de IA do WhatsApp e também podem impedir que as pessoas com quem estão conversando utilizem os recursos de IA em comunicações compartilhadas ativando um novo controle do WhatsApp conhecido como “Privacidade Avançada do Chat”.
“Quando a configuração está ativada, você pode bloquear outros de exportar chats, baixar automaticamente mídia para o telefone deles e usar mensagens para recursos de IA”, escreveu o WhatsApp em um post no blog na semana passada. Assim como as mensagens que desaparecem, qualquer pessoa em um chat pode ativar ou desativar a Privacidade Avançada do Chat – o que é registrado para todos verem – então os participantes só precisam estar cientes de quaisquer ajustes.
O Processamento Privado é construído com hardware especial que isola dados sensíveis em um “Ambiente de Execução Confiável”, uma região isolada e bloqueada de um processador. O sistema é projetado para processar e reter dados pelo menor tempo possível e é projetado para parar e enviar alertas se detectar qualquer adulteração ou ajustes. O WhatsApp já está convidando auditorias de terceiros de diferentes componentes do sistema e fará parte do programa de recompensas de bugs da Meta para incentivar a comunidade de segurança a enviar informações sobre falhas e potenciais vulnerabilidades. A Meta também afirma que, em última análise, planeja tornar os componentes do Processamento Privado de código aberto, tanto para verificação expandida de suas garantias de segurança e privacidade quanto para facilitar a outros a construção de serviços semelhantes.
No ano passado, a Apple lançou um esquema semelhante, conhecido como Computação em Nuvem Privada, para sua plataforma de IA Apple Intelligence. E os usuários podem ativar o serviço no aplicativo de comunicação criptografada de ponta a ponta da Apple, Mensagens, para gerar resumos de mensagens e compor mensagens de “Resposta Inteligente” em iPhones e Macs.
Comparar a Computação em Nuvem Privada e o Processamento Privado lado a lado é como comparar, bem, maçãs e laranjas, embora. A Computação em Nuvem Privada da Apple suporta toda a Apple Intelligence onde quer que possa ser aplicada. O Processamento Privado, por outro lado, foi construído especificamente para o WhatsApp e não suporta os recursos de IA da Meta de forma mais ampla. A Apple Intelligence também é projetada para fazer o máximo possível de processamento de IA no dispositivo e só enviar solicitações para a infraestrutura de Computação em Nuvem Privada quando necessário. Como esse processamento “local” ou “no dispositivo” requer hardware poderoso, a Apple projetou a Apple Intelligence para funcionar apenas em suas gerações recentes de hardware móvel. iPhones e iPads antigos nunca suportarão a Apple Intelligence.
A Apple é fabricante de smartphones e outros hardwares de alta qualidade, enquanto a Meta é uma empresa de software e possui cerca de 3 bilhões de usuários que têm todos os tipos de smartphones, incluindo dispositivos antigos e de baixo custo. Rohlf e Colin Clemmons, um dos engenheiros principais do Processamento Privado, afirmam que não era viável projetar recursos de IA para o WhatsApp que pudessem ser executados localmente no espectro de dispositivos que o WhatsApp atende. Em vez disso, o WhatsApp se concentrou em projetar o Processamento Privado para ser o menos útil possível para os atacantes se fosse violado.
“O design é um de minimização de riscos”, diz Clemmons. “Queremos minimizar o valor de comprometer o sistema.”
Todo o esforço levanta uma questão mais básica, no entanto, sobre por que uma plataforma de comunicação segura como o WhatsApp precisa oferecer recursos de IA. A Meta é adamante, no entanto, que os usuários esperam os recursos neste momento e irão aonde for necessário para obtê-los.
“Muitas pessoas querem usar ferramentas de IA para ajudá-las quando estão se comunicando”, disse Will Cathcart, chefe do WhatsApp, em um e-mail para a WIRED. “Acreditamos que construir uma maneira privada de fazer isso é importante, porque as pessoas não deveriam ter que mudar para uma plataforma menos privada para ter a funcionalidade de que precisam.”
“Qualquer sistema de criptografia de ponta a ponta que use inferência de IA fora do dispositivo será mais arriscado do que um sistema puramente de ponta a ponta. Você está enviando dados para um computador em um data center, e essa máquina vê seus textos privados”, diz Matt Green, um criptógrafo da Johns Hopkins que analisou algumas das garantias de privacidade do Processamento Privado, mas não auditou o sistema completo. “Acredito no WhatsApp quando eles dizem que projetaram isso para ser o mais seguro possível, e acredito quando dizem que não podem ler seus textos. Mas também acho que existem riscos aqui. Mais dados privados irão para fora do dispositivo, e as máquinas que processam esses dados serão um alvo para hackers e adversários de estados-nação.”
O WhatsApp também afirma que, além de recursos básicos de IA, como resumo de texto e sugestões de escrita, o Processamento Privado espera criar uma base para expandir para recursos de IA mais complicados e envolvidos no futuro que envolvam o processamento e potencialmente o armazenamento de mais dados.
Como Green coloca, “Dadas todas as coisas loucas que as pessoas usam mensageiros seguros, qualquer um e todos esses recursos tornarão os computadores do Processamento Privado em um alvo muito grande.”