Autumn Gardiner pensou que atualizar sua carteira de motorista seria simples. Depois de se casar no ano passado, ela foi ao escritório do Departamento de Veículos Motorizados em Connecticut para mudar seu nome na carteira. Enquanto estava lá, Gardiner lembra que os funcionários disseram que ela precisava atualizar sua foto. Foi então que as coisas começaram a dar errado.
Toda vez que a equipe tentava tirar sua foto, Gardiner diz que o sistema a rejeitava. “Todo mundo está assistindo. Eles estão tirando mais fotos”, ela lembra. Gardiner, que trabalha como gerente de subsídios para uma organização de conservação ambiental, é uma das poucas pessoas no mundo que vive com a síndrome de Freeman-Sheldon. Às vezes conhecida como síndrome do Rosto Assobiador, a condição genética impacta os músculos ao redor do rosto e do crânio, o que pode resultar em uma boca subdimensionada.
À medida que mais funcionários do DMV foram chamados para ajudar, Gardiner diz que começou a acreditar que as fotos rejeitadas eram causadas por sua diferença facial. O sistema da câmera não parecia funcionar para ela, diz ela. “Foi humilhante e estranho. Aqui está esta máquina me dizendo que eu não tenho um rosto humano”, diz Gardiner.
Gardiner não está sozinha. Cerca de meia dúzia de pessoas vivendo com uma variedade de diferenças faciais—de marcas de nascença a condições craniofaciais—contam à WIRED que estão lutando cada vez mais para participar da vida moderna à medida que o software de verificação de identidade, que muitas vezes é alimentado por aprendizado de máquina, se torna rapidamente comum.
Alguns dos que vivem com diferenças faciais contam à WIRED que passaram por múltiplas cirurgias e enfrentaram estigmas durante toda a vida, que agora estão sendo ecoados pela tecnologia com a qual são forçados a interagir. Eles dizem que não conseguiram acessar serviços públicos devido à falha dos serviços de verificação facial, enquanto outros lutaram para acessar serviços financeiros. Filtros de redes sociais e sistemas de desbloqueio facial em telefones muitas vezes não funcionam, dizem eles.
“A comunidade de diferença facial é constantemente ignorada”, diz Phyllida Swift, CEO da Face Equality International (FEI), um grupo que representa outras instituições de caridade e organizações de diferença facial e desfiguração. Estima-se que mais de 100 milhões de pessoas em todo o mundo vivem com desfigurações faciais, segundo a FEI. Pessoas com diferenças faciais enfrentaram problemas com portões de passaporte em aeroportos, aplicativos de fotos, filtros de vídeo em redes sociais, borramento de fundo em chamadas de vídeo, e mais, de acordo com a pesquisa da FEI. “Em muitos países, o reconhecimento facial está se tornando cada vez mais parte da vida cotidiana, mas essa tecnologia está falhando com nossa comunidade”, disse Nikki Lilly, uma patrona da FEI, em uma reunião das Nações Unidas em março.
Acesso Negado
De telefones a quartos de hotel, seu rosto atua cada vez mais como uma chave digital. Na última década, os avanços rápidos em aprendizado de máquina e IA levaram à criação de uma variedade de tecnologias de reconhecimento facial—significando que mais do que nunca, sua aparência pode ser usada como um identificador digital. A polícia implantou amplamente sistemas de reconhecimento facial, que frequentemente foram considerados imprecisos e tendenciosos contra pessoas asiáticas e negras, enquanto o mundo mais amplo do reconhecimento facial viu serviços governamentais, sistemas antifraude e instituições financeiras usando IA para completar verificações de identidade. Mais recentemente, redes sociais e sites pornográficos adotaram a verificação facial como parte de medidas de verificação de idade.
Esses cheques de “autenticação” facial podem assumir múltiplas formas. Selfies podem ser automaticamente comparadas a documentos de identidade existentes; enquanto testes de vivacidade podem exigir que você grave um vídeo curto para mostrar que você é real—não um fraudador segurando uma foto impressa para a câmera. De modo geral, esses sistemas biométricos frequentemente medem suas características faciais—como a distância entre seus olhos, ou o tamanho de sua mandíbula—para criar “impressões faciais”. Embora esses tipos de tecnologias de vigilância possam ser eficazes para muitas pessoas, elas podem não ser capazes de detectar pessoas com diferenças faciais. A tecnologia subjacente de aprendizado de máquina pode não ter sido treinada em conjuntos de dados com uma variedade de rostos, por exemplo.
“O caso da Face Equality International—de pessoas que têm rostos diferentes—é um canário na mina de carvão do que pode dar errado quando esses sistemas não funcionam”, diz Greta Byrum, fundadora da consultoria de tecnologia Present Moment Enterprises, que se concentra no impacto social de sistemas tecnológicos e prestou algum trabalho pro bono para a FEI. “Estamos vendo tecnologias de reconhecimento facial se tornando um daqueles martelos que tudo parece um prego”, diz Byrum.
“Eu gostaria que as pessoas percebessem que nem todo mundo se parece com o mesmo, desde o tom de pele básico até as características faciais até a aparência facial padrão”, diz Crystal Hodges, uma palestrante e escritora que vive com a síndrome de Sturge-Weber e tem uma “mancha de vinho do porto” roxa em parte do rosto. “A simetria facial das pessoas pode não ser a mesma. Outras pessoas têm características faciais diferentes que você não vê todos os dias, mas elas existem.”
Hodges, que vive no Arizona, diz que no ano passado ela e seu marido estavam tentando obter suas pontuações de crédito de uma grande agência de relatórios de crédito quando o serviço de verificação facial não funcionou para ela. “Tentei de cinco a oito vezes”, diz ela. Em direção ao inverno, Hodges diz que a marca de nascimento ficará mais escura. “Estávamos tentando um anel de luz diferente, estávamos tentando uma iluminação mais calma, e não foi aceito. Meu marido tinha uma barba, e foi aceito para ele.” Hodges diz que recentemente tentou o mesmo sistema novamente, e enquanto funcionou desta vez, ela ainda não obteve sua pontuação de crédito.
“Se você não incluir pessoas com deficiência ou pessoas com diferenças faciais no desenvolvimento desses processos, ninguém vai pensar sobre esses problemas”, diz Kathleen Bogart, professora de psicologia na Oregon State University que se especializa em pesquisa sobre deficiência e vive com uma diferença facial. “A IA amplificou esses problemas, mas está enraizada na sub-representação de longa data e preconceito em relação a pessoas com diferenças faciais que ocorreram muito antes de a IA ser uma coisa.”
Muito Pouco, Muito Tarde
Quando os sistemas de verificação facial falham, muitas vezes é difícil encontrar ajuda—acumulando mais pressão em uma situação estressante. Por meses, a residente de Maryland Noor Al-Khaled lutou para criar uma conta online com a Administração da Segurança Social. Al-Khaled, que vive com a rara condição craniofacial Ablepheron Macrostomia, diz que ter uma conta online lhe permitiria acessar facilmente os registros da SSA e enviar documentos rapidamente à agência.
“Eu não dirijo por causa da minha visão; eu deveria ser capaz de confiar no site”, diz Al-Khaled. “Você tem que tirar uma selfie, e as fotos precisam coincidir”, diz Al-Khaled. “Por causa da diferença facial, não sei se não está reconhecendo a identidade ou a selfie, mas sempre diz que as imagens não coincidem.”
Não ter esse acesso torna a vida mais difícil. “Em um nível emocional, isso simplesmente me faz sentir excluída da sociedade”, explica. Al-Khaled diz que todos os serviços deveriam fornecer maneiras alternativas para as pessoas acessarem os sistemas online. “A falta de outras opções de fallback significa que às vezes as pessoas ficam presas nesses labirintos de sistemas tecnológicos”, diz Byrum da Present Moment Enterprises.
Um porta-voz da SSA diz que opções alternativas à verificação facial estão disponíveis e que está “comprometida” em tornar seus serviços acessíveis a todos. A agência, diz o porta-voz, não executa sistemas de reconhecimento facial, mas usa Login.gov e ID.me para serviços de verificação. A Administração de Serviços Gerais, que opera o Login.gov, não respondeu ao pedido de comentário da WIRED. “A acessibilidade é uma prioridade fundamental para a ID.me”, diz um porta-voz da ID.me, acrescentando que já ajudou pessoas com diferenças faciais e se ofereceu para ajudar diretamente Al-Khaled depois que a WIRED entrou em contato.
“Não há coisas mais desumanizadoras do que ser informado por uma máquina que você não é real por causa do seu rosto”, diz Corey R. Taylor, um ator e palestrante motivacional baseado em Nova York que vive com uma anomalia craniofacial. No ano passado, Taylor diz que estava usando um aplicativo financeiro para acessar uma pequena quantia de dinheiro; enquanto tentava completar os processos de pagamento, descobriu que o sistema de verificação facial não conseguia combinar sua selfie com a imagem em seu documento de identidade. Para que o sistema funcionasse, ele teve que se mover em diferentes posições. “Eu tive que literalmente levantar os olhos e contorcer meu rosto”, diz Taylor. Quando ele enviou um e-mail para a empresa, recebeu o que parecia ser uma resposta padrão.
“Uma das principais coisas pelas quais estamos advogando são métodos alternativos”, diz Hannah Saunders, chefe de política e educação da FEI. “Pode haver uma solução a longo prazo em termos de mudar a tecnologia, mas no momento, estamos mais preocupados para que as pessoas possam se candidatar a empregos, possam acessar seu dinheiro, possam passar pelo controle de passaporte com suas famílias, e que negociar esses tipos de sistemas não seja tão estressante quanto é.”
Swift, a CEO da FEI, diz que a organização foi “abordada” várias vezes para trabalhar com empresas para resolver alguns dos problemas, mas ainda não conseguiu formalizar nenhum acordo. Swift diz que a FEI quer colocar os “sistemas e salvaguardas certos em vigor” para proteger seus membros. Além disso, Swift acrescenta, “temos a sensação de que isso está bastante baixo na lista de prioridades [das empresas de tecnologia], e, portanto, o progresso parece estar lento.”
No entanto, os problemas vão além das tecnologias emergentes. Muitas das pessoas com quem a WIRED conversou explicaram que frequentemente enfrentam bullying baseado na aparência online, e a mudança mais ampla da internet para conteúdo de vídeo de formato curto, como TikTok e Instagram Reels, as deixa se sentindo isoladas. “A internet, por tanto tempo, foi um refúgio seguro para mim”, diz Al-Khaled. “Encontrei meu lar e consolo online porque era o único lugar onde eu poderia conhecer pessoas e realmente ser eu mesma sem ser observada ou encarada.” Hodges diz que as pessoas já lhe disseram que estão chocadas por ela conseguir sair de casa. “Eu sinto que isso meio que se transferiu agora para: ‘Eu não posso acreditar que você sai de casa, e não posso acreditar que você vai online’,” diz ela.
No DMV em Connecticut no ano passado, Gardiner diz que a equipe conseguiu contornar manualmente o sistema de fotografia, embora ela tenha explicado sua diferença facial para eles no processo. Ela recebeu sua carteira de motorista temporária substituta naquele dia e a carteira completa mais tarde pelo correio. “Eu já passei por muita coisa quando se trata do meu rosto, mas depois que saí, eu simplesmente chorei”, lembra Gardiner. “Foi meio que um lembrete de que sim, eu sou diferente e não me encaixo.”
Depois de sair, Gardiner enviou uma mensagem a um representante estadual que conhecia e contou a ele sobre a experiência, de acordo com mensagens compartilhadas com a WIRED. O oficial entrou em contato com o comissário local do DMV e discutiu a questão, além do treinamento da equipe, dizem eles.
“Embora sigamos diretrizes rigorosas para garantir a conformidade da foto, nossos funcionários abordam seus papéis com empatia, garantindo que compreendam e atendam às necessidades daqueles a quem servem”, diz um porta-voz do DMV CT. “Queremos que nossos residentes tenham interações profissionais com o DMV.” Um porta-voz da Idemia, que fornece a tecnologia ao DMV, diz que oferece regularmente treinamento para a equipe, e seus algoritmos foram classificados como altamente eficazes em avaliações externas.
Gardiner diz que, embora tenha havido uma resposta positiva no final, ela ouviu histórias de pessoas com diferenças faciais enfrentando problemas no DMV em outros estados. “Eu realmente quero pressionar por melhores protocolos: O que os humanos fazem quando a IA não funciona?”, diz ela. Mas com os sistemas de reconhecimento facial sendo usados tão amplamente, o problema pode parecer intransponível. “Depois de toda aquela experiência no DMV, eu tive que fazer meu passaporte e encontrei o mesmo problema com minha foto do passaporte.