A Meta compartilhou mais informações sobre como planeja usar a IA para pegar adolescentes que mentem sobre sua idade no Instagram. Conforme relatado pela Bloomberg, no início do próximo ano, a empresa implantará o ‘classificador de adultos’, uma ferramenta que, segundo ela, identificará usuários com menos de 18 anos e aplicará automaticamente as configurações de privacidade mais restritivas do Instagram a eles.
De acordo com Allison Hartnett, diretora de gerenciamento de produtos da Meta para jovens e impacto social, o software observará indicadores como as contas que um usuário segue e o conteúdo com o qual ele interage regularmente. Se a ferramenta suspeitar que alguém tem menos de 18 anos, moverá essa pessoa para uma conta de adolescente, independentemente da idade que ela afirma ter em seu perfil.
A Meta não respondeu imediatamente ao pedido de comentário da Engadget.
A Meta disse pela primeira vez que usaria IA para identificar usuários jovens que mentiram sobre sua idade quando começou a lançar contas de adolescentes em setembro. Com essas contas, a empresa aplica automaticamente as configurações de privacidade mais rigorosas do Instagram a crianças com menos de 16 anos. Por exemplo, as contas são automaticamente definidas como privadas e não podem enviar mensagens para estranhos. Enfrentando pressão de legisladores e pais, a Meta já estava aplicando muitas dessas restrições a usuários menores de idade antes do lançamento das contas de adolescentes, mas com o lançamento oficial do recurso, a empresa fez com que os adolescentes não pudessem alterar essas configurações sem a aprovação de um pai.
Na segunda-feira, a empresa não divulgou quão precisa é a ferramenta de classificador de adultos para determinar a idade de uma pessoa. A Meta disse à Bloomberg que eventualmente dará às pessoas que forem identificadas erroneamente pelo software a capacidade de recorrer, embora o gigante das redes sociais ainda esteja trabalhando em como esse processo funcionará.
A empresa solicitará que os adolescentes que tentarem alterar manualmente a idade listada em sua conta provem sua identidade. Os usuários terão a opção de fazer upload de uma identificação oficial emitida pelo governo ou compartilhar um vídeo selfie com a Yoti. A Meta anteriormente fez parceria com a Yoti para trazer a verificação de idade para o Facebook Dating. O algoritmo de aprendizado de máquina da empresa estima a idade de uma pessoa com base em suas características faciais. Uma vez que a Yoti compartilha sua estimativa com a Meta, ambas excluem o vídeo.
O software do classificador de adultos faz parte de um esforço mais amplo da Meta para dificultar a vida das pessoas que mentem sobre sua idade no Instagram. Separadamente, a empresa planeja sinalizar os adolescentes que tentam criar uma nova conta usando um endereço de e-mail que já está associado a uma conta existente e a um aniversário diferente. Ela também planeja usar IDs de dispositivos para ter uma melhor compreensão de quem está criando um novo perfil.
A Meta, juntamente com Google e ByteDance, proprietária do TikTok, recentemente não conseguiu convencer um juiz federal dos EUA a rejeitar uma série de processos judiciais alegando que as empresas falharam em proteger adequadamente seus jovens usuários dos efeitos prejudiciais e viciantes do uso das redes sociais.