A cada poucos meses, outro acadêmico altamente educado pergunta: E se eu tentasse fazer ciência racial do século XVIII desmentida, mas com IA?
A mais recente entrada no portfólio de frenologia de IA vem de um grupo de professores de economia que afirmam ter desenvolvido um método para analisar algoritmicamente uma única foto do rosto de uma pessoa a fim de calcular sua personalidade e prever seus resultados educacionais e de carreira.
Outras investigações acadêmicas recentes em frenologia de IA—como algoritmos que afirmam prever a sexualidade de uma pessoa ou a probabilidade de que ela cometa um crime com base em suas características faciais—foram amplamente criticadas e desmentidas. Investigações também mostraram que ferramentas de IA comerciais que afirmam medir traços de personalidade são extremamente não confiáveis.
No entanto, Marius Guenzel e Shimon Kogan, da Wharton School da Universidade da Pensilvânia; Marina Niessner, da Universidade de Indiana; e Kelly Shue, da Universidade de Yale decidiram que uma foto instantânea do rosto de uma pessoa pode determinar sua personalidade. Eles receberam financiamento para sua pesquisa de vários fundos de pesquisa em IA e finanças na Wharton e apresentaram suas descobertas em conferências de tecnologia financeira e universidades em todo o mundo, de acordo com seu artigo.
Os autores coletaram as fotos de perfil do LinkedIn de 96.000 graduados de programas de MBA e as analisaram por meio de um algoritmo de análise facial que supostamente mediu como a pessoa pontuaria no teste de personalidade Big Five, que classifica as pessoas com base em sua abertura percebida, consciência, extroversão, amabilidade e neuroticismo.
Eles então mediram a correlação entre essas pontuações de personalidade extraídas e a prestígio do programa de MBA que completaram e sua eventual compensação no mercado de trabalho (estimada por um modelo proprietário que analisa dados do LinkedIn).
Com base nessa análise, os autores concluíram que a personalidade desempenha um “papel importante” na previsão de se uma pessoa frequentará uma escola com um programa de MBA altamente classificado e quanto ganhará em seu primeiro emprego após a graduação. Por exemplo, homens no top 20% de personalidades “desejáveis” frequentaram programas de MBA classificados 7,3% mais altos e tiveram rendimentos estimados 8,4% mais altos do que homens cujas personalidades estavam no fundo 20% de desejabilidade. Quando os pesquisadores controlaram fatores como a raça, idade e atratividade de uma pessoa (todos inferidos), os efeitos diminuíram.
Notavelmente, os autores não parecem ter feito nenhum esforço independente para estabelecer que as pontuações de personalidade Big Five extraídas de fotos de perfil do LinkedIn eram precisas. Nenhuma das pessoas cujas fotos de perfil foram analisadas fez um teste de personalidade Big Five para confirmar as conclusões do algoritmo.
Os professores escreveram que suas descobertas destacam “o papel crítico das habilidades não cognitivas na formação de resultados de carreira” e que usar IA para analisar rostos, em vez de realmente administrar testes de personalidade às pessoas, “apresenta novas avenidas para investigação acadêmica … [e convida] a uma exploração mais aprofundada das considerações éticas, práticas e estratégicas inerentes ao uso de tais tecnologias.”
Ao mesmo tempo, eles escreveram que a técnica que acabaram de demonstrar não deve ser usada para triagem no mercado de trabalho e que “a extração de personalidade a partir de rostos representa discriminação estatística em sua forma mais fundamental.”
Em outras palavras, os cientistas pararam para pensar se deveriam, concluíram que era discriminatório e então fizeram isso de qualquer maneira.