Ofcom, o regulador de segurança na internet do Reino Unido, publicou outra nova orientação preliminar enquanto continua a implementar a Lei de Segurança Online (OSA) — o último conjunto de recomendações visa apoiar as empresas abrangidas a atender às obrigações legais de proteger mulheres e meninas de ameaças online, como assédio e bullying, misoginia e abuso de imagens íntimas.
O governo afirmou que proteger mulheres e meninas é uma prioridade para a implementação da OSA. Certas formas de abuso (predominantemente) misógino — como compartilhar imagens íntimas sem consentimento ou usar ferramentas de IA para criar pornografia deepfake que visa indivíduos — estão explicitamente estabelecidas na lei como prioridades de aplicação.
A regulamentação de segurança online, que foi aprovada pelo parlamento do Reino Unido em setembro de 2023, enfrentou críticas de que não está à altura da tarefa de reformar os gigantes das plataformas, apesar de conter penalidades substanciais para não conformidade — até 10% do faturamento global anual.
Os defensores da segurança infantil também expressaram frustração sobre quanto tempo está levando para implementar a lei, além de duvidar se terá o efeito desejado.
Em uma entrevista à BBC em janeiro, até mesmo o ministro da tecnologia, Peter Kyle — que herdou a legislação do governo anterior — a chamou de “muito desigual” e “insatisfatória.” Mas o governo está mantendo a abordagem. Parte da insatisfação em torno da OSA pode ser rastreada de volta ao longo prazo que os ministros permitiram para implementar o regime, que requer a aprovação do parlamento para a orientação de conformidade da Ofcom.
No entanto, a aplicação deve começar a entrar em vigor em breve em relação aos requisitos principais sobre o combate a conteúdos ilegais e proteção infantil. Outros aspectos da conformidade com a OSA levarão mais tempo para serem implementados. E a Ofcom admite que este último pacote de recomendações de prática não se tornará totalmente aplicável até 2027 ou mais tarde.
As primeiras obrigações da Lei de Segurança Online entrarão em vigor no próximo mês, disse Jessica Smith da Ofcom, que liderou o desenvolvimento da orientação focada na segurança feminina, em uma entrevista ao TechCrunch. “Portanto, estaremos aplicando algumas das obrigações principais da Lei de Segurança Online antes que esta orientação [em si se torne aplicável].”
A nova orientação preliminar sobre a segurança de mulheres e meninas online destina-se a complementar a orientação anterior mais ampla da Ofcom sobre conteúdos ilegais — que também, por exemplo, fornece recomendações para proteger menores de ver conteúdo adulto online.
Em dezembro, o regulador publicou sua orientação finalizada sobre como plataformas e serviços devem reduzir os riscos relacionados a conteúdos ilegais, uma área em que a proteção infantil é uma prioridade clara.
Ele também produziu anteriormente um Código de Segurança Infantil, que recomenda que serviços online amplifiquem verificações de idade e filtragem de conteúdo para garantir que crianças não sejam expostas a conteúdos inadequados, como pornografia. E enquanto trabalhava para implementar o regime de segurança online, também desenvolveu recomendações para tecnologias de garantia de idade para sites de conteúdo adulto, com o objetivo de empurrar sites de pornografia a tomar medidas efetivas para impedir que menores acessem conteúdo inadequado para a idade.
O mais recente conjunto de orientações foi desenvolvido com a ajuda de vítimas, sobreviventes, grupos de defesa das mulheres e especialistas em segurança, segundo a Ofcom. Abrange quatro áreas principais em que o regulador afirma que as mulheres são desproporcionalmente afetadas por danos online — a saber: misoginia online; pilhagem e assédio online; abuso doméstico online; e abuso de imagem íntima.
A recomendação principal da Ofcom incentiva os serviços e plataformas abrangidos a adotar uma abordagem “segurança por design”. Smith nos contou que o regulador deseja encorajar as empresas de tecnologia a “dar um passo atrás” e “pensar sobre a experiência do usuário de forma abrangente.” Embora tenha reconhecido que alguns serviços implementaram algumas medidas que são úteis na redução dos riscos online nessa área, argumentou que ainda falta um pensamento holístico quando se trata de priorizar a segurança de mulheres e meninas.
“O que realmente estamos pedindo é uma espécie de mudança de paradigma em como os processos de design funcionam,” disse ela, destacando o crescimento de serviços de geração de imagens por IA, que, segundo ela, levou a um crescimento “massivo” no abuso de imagens íntimas por deepfake como um exemplo de onde os tecnólogos poderiam ter tomado medidas proativas para reduzir os riscos de suas ferramentas serem usadas para atacar mulheres e meninas — mas não o fizeram.
“Achamos que há coisas sensatas que os serviços poderiam fazer na fase de design que ajudariam a abordar o risco de alguns desses danos,” ela sugeriu.
Exemplos de práticas “boas” da indústria que a Ofcom destaca na orientação incluem ações como:
Remover geolocalização por padrão (para reduzir riscos de privacidade/assédio);
Conduzir testes de “abusabilidade” para identificar como um serviço poderia ser usado como arma/misutilizado;
Tomar medidas para aumentar a segurança da conta;
Projetar prompts para usuários que têm a intenção de fazer os publicadores pensarem duas vezes antes de postar conteúdo abusivo;
E oferecer ferramentas de denúncia acessíveis que permitem aos usuários relatar problemas.
Como acontece com todas as orientações da OSA da Ofcom, nem toda medida será relevante para cada tipo ou tamanho de serviço — uma vez que a lei se aplica a serviços online grandes e pequenos, e atravessa várias áreas, desde redes sociais até namoro online, jogos, fóruns e aplicativos de mensagens, para citar alguns. Portanto, uma grande parte do trabalho para as empresas abrangidas será entender o que a conformidade significa no contexto de seu produto.
Quando questionada se a Ofcom havia identificado serviços que atualmente atendem aos padrões da orientação, Smith sugeriu que não. “Ainda há muito trabalho a ser feito em toda a indústria,” disse ela.
Ela também reconheceu tacitamente que pode haver desafios crescentes, dadas algumas das etapas retroativas adotadas em relação à confiança e segurança por alguns dos principais players da indústria. Por exemplo, desde que assumiu o Twitter e rebatizou a rede social como X, Elon Musk reduziu drasticamente a equipe de confiança e segurança — em favor de perseguir o que ele considerou uma abordagem maximalista em relação à liberdade de expressão.
Nos últimos meses, o Meta — que possui o Facebook e o Instagram — parece ter tomado algumas medidas semelhantes, afirmando que está encerrando contratos de verificação de fatos de terceiros em favor de implantar um sistema de “notas da comunidade” estilo X de rotulagem de conteúdo baseado em crowdsourcing em disputas de conteúdo, por exemplo.
Transparência
Smith sugeriu que a resposta da Ofcom a tais mudanças de alto nível — onde as ações dos operadores poderiam aumentar, em vez de reduzir, os danos online — se concentrará em usar poderes de transparência e coleta de informações que possui sob a OSA para ilustrar impactos e aumentar a conscientização dos usuários.
Então, em resumo, a tática aqui parece ser ‘nomear e envergonhar’ — pelo menos no primeiro momento.
“Uma vez que finalizemos a orientação, produziremos um [relatório de mercado]… sobre quem está usando a orientação, quem está seguindo quais etapas, que tipos de resultados estão alcançando para seus usuários que são mulheres e meninas, e realmente iluminar o que as proteções estão em vigor em diferentes plataformas para que os usuários possam fazer escolhas informadas sobre onde passam seu tempo online,” disse ela.
Smith sugeriu que as empresas que desejam evitar o risco de serem publicamente envergonhadas por um desempenho fraco na segurança das mulheres poderão recorrer à orientação da Ofcom para “passos práticos” sobre como melhorar a situação para seus usuários e abordar o risco de dano à reputação também.
“As plataformas que estão operando no Reino Unido terão que cumprir a lei do Reino Unido,” acrescentou ela no contexto da discussão sobre plataformas principais desvalorizando a confiança e a segurança. “Então isso significa cumprir os deveres de danos ilegais e proteção das crianças sob a Lei de Segurança Online.”
“Acho que é aqui que nossos poderes de transparência também entram — se a indústria estiver mudando de direção e os danos estiverem aumentando, é aqui que poderemos iluminar e compartilhar informações relevantes com usuários do Reino Unido, com a mídia, com parlamentares.”
Tecnologia para lidar com pornografia deepfake
Um tipo de dano online onde a Ofcom está explicitamente reforçando suas recomendações, mesmo antes de ter realmente iniciado a aplicação da OSA, é o abuso de imagem íntima — já que a mais recente orientação preliminar sugere o uso de correspondência de hash para detectar e remover tais imagens abusivas, enquanto recomendações anteriores da Ofcom não foram tão longe.
“Incluímos etapas adicionais nesta orientação que vão além do que já estabelecemos em nossos códigos,” disse Smith, confirmando que a Ofcom planeja atualizar seus códigos anteriores para incorporar essa mudança “em um futuro próximo.”
“Então, esta é uma maneira de dizer às plataformas que você pode se antecipar a esse requisito aplicável seguindo os passos estabelecidos nesta orientação,” acrescentou ela.
A Ofcom recomendou o uso de tecnologia de correspondência de hash para combater o abuso de imagem íntima devido a um aumento substancial nesse risco, segundo Smith — especialmente em relação ao abuso de imagem íntima gerada por IA.
“Houve mais abuso de imagem íntima por deepfake relatado em 2023 do que em todos os anos anteriores combinados,” observou ela, acrescentando que a Ofcom também coletou mais evidências sobre a eficácia da correspondência de hash para combater esse dano.
A orientação preliminar como um todo agora passará por consulta — com a Ofcom convidando comentários até 23 de maio de 2025 — após o que produzirá a orientação final até o final deste ano.
Um total de 18 meses após isso, a Ofcom então produzirá seu primeiro relatório revisando a prática da indústria nesta área.
“Estamos entrando em 2027 antes de produzirmos nosso primeiro relatório sobre quem está fazendo o que [para proteger mulheres e meninas online] — mas não há nada que impeça as plataformas de agir agora,” acrescentou ela.
Respondendo às críticas de que a OSA está levando muito tempo para ser implementada pela Ofcom, ela disse que é correto que o regulador consulte sobre as medidas de conformidade. No entanto, com a medida final entrando em vigor no próximo mês, ela observou que a Ofcom antecipa uma mudança na conversa em torno da questão também.
“[Isso] realmente começará a mudar a conversa com as plataformas, em particular,” previu, acrescentando que também estará em posição de começar a demonstrar progresso na redução dos danos online.