Desde seu desenvolvimento até sua aplicação, a indústria de reconhecimento facial está cheia de práticas questionáveis. Mas as coisas podem sempre ficar mais sombrias. Em Milwaukee, a polícia está agora considerando um acordo quase caricaturalmente maligno: trocar 2,5 milhões de fotografias de prisão com uma empresa privada em troca de acesso gratuito ao software de reconhecimento facial.
Na sexta-feira, o Milwaukee Journal Sentinel informou que os oficiais da polícia anunciaram o potencial acordo na reunião da Comissão de Incêndio e Polícia da cidade na semana passada. De acordo com o outlet, a polícia de Milwaukee anteriormente pegou emprestado o acesso à tecnologia de reconhecimento facial de agências vizinhas. Com este acordo, o departamento receberia duas licenças de busca gratuitas da Biometrica, uma empresa de software que já trabalha com agências de aplicação da lei nos Estados Unidos, em troca de fotografias de prisão e registros de prisão que abrangem décadas.
Embora os planos da Biometrica para essas fotografias não estejam confirmados, é provável que elas sejam usadas para treinar seu software. A Biometrica não respondeu ao pedido de comentário da Gizmodo. No entanto, o reconhecimento facial é frequentemente treinado em conjuntos de dados roubados ou emprestados. Por exemplo, a Clearview AI extraiu milhões de fotos das redes sociais para seu banco de dados que vende para a polícia, e a PimEyes roubou fotos de pessoas mortas para seu algoritmo. O Instituto Nacional de Padrões e Tecnologia também mantém seu próprio banco de dados de fotografias de prisão, juntamente com imagens de pessoas vulneráveis para testes de reconhecimento facial.
Em um e-mail para a Gizmodo, a polícia de Milwaukee confirmou que ainda não firmou nenhum contrato. O departamento planeja continuar a discussão em futuras reuniões da cidade. Um representante escreveu que “ser transparente com a comunidade que servimos supera em muito a urgência de adquirir.” Mesmo sem um acordo firme, a proposta por si só já levanta preocupações.
As imprecisões do reconhecimento facial na identificação de pessoas de pele escura (especialmente se forem mulheres ou não-binárias) estão bem documentadas. Não surpreendentemente, levou a “múltiplas prisões indevidas… devido à dependência da polícia em resultados incorretos de reconhecimento facial — e esses são apenas os casos conhecidos”, disse David Gwidt, porta-voz da União Americana pelas Liberdades Civis de Wisconsin, em um e-mail à Gizmodo. “Em quase todos esses casos, a pessoa erroneamente presa era negra.”
Esse não é o único problema com este acordo, no entanto. Até agora, o acordo proposto não menciona nada sobre informar os indivíduos, obter seu consentimento ou permitir que eles optem por não participar. Como a maioria dos estados, Wisconsin não possui leis específicas de privacidade biométrica. Das poucas que existem, apenas Illinois expande suas regulamentações além de abordar exclusivamente o uso comercial. A única legislação firme a que se referir é sobre como as fotografias de prisão são regulamentadas. Geralmente, elas são registros públicos, e Wisconsin é um estado de registros abertos, portanto, os registros de prisão, incluindo fotografias de prisão, estão disponíveis ao público com exceções limitadas.
Embora tudo isso sugira que a polícia de Milwaukee não seja legalmente obrigada a notificar os indivíduos ou obter consentimento, ainda assim é suspeito. Vamos ignorar quantas pessoas simplesmente não querem que seu rosto seja usado para treinar tecnologia de vigilância. As empresas de reconhecimento facial não são imunes a problemas de segurança, como violações de dados. Segundo a Forbes, violações biométricas podem expor as pessoas ao roubo de identidade ou serem usadas para contornar outros sistemas de segurança. Não é como se as pessoas pudessem apenas mudar seu rosto. O que levanta a pergunta: A polícia de Milwaukee deveria ser capaz de assumir esse risco em nome de outra pessoa?
Os Estados Unidos têm uma história estabelecida de contornar a ética e explorar comunidades marginalizadas, especialmente em nome do avanço da tecnologia. Olá, Tuskegee. Este acordo simplesmente continuaria esse legado em um contexto digital. Como Jeramie Scott, Conselheiro Sênior da EPIC, disse à Gizmodo por e-mail, “A ironia aqui é que a polícia de Milwaukee está considerando oferecer milhões de fotografias de prisão que provavelmente são desproporcionalmente de pessoas de cor para treinar uma tecnologia de vigilância que provavelmente será usada desproporcionalmente em pessoas de cor.” Além disso, Scott observou que fazer isso “exacerbará as desigualdades raciais históricas no sistema de justiça criminal.”
A regulamentação federal abrangente sobre reconhecimento facial é improvável que chegue tão cedo. Embora a capital de Wisconsin, Madison, tenha banido a tecnologia em 2020, o estado em si também não possui nenhuma, e Milwaukee também não regula a tecnologia de vigilância existente do departamento de polícia. Na opinião de Scott, “A coisa mais segura a fazer seria não prosseguir com este acordo e a polícia de Milwaukee se abster de usar a tecnologia, especialmente quando não há leis em vigor para limitar estritamente seu uso e fornecer salvaguardas significativas.”
Na semana passada, a ACLU local pediu a Milwaukee que colocasse uma pausa de dois anos em qualquer nova tecnologia de vigilância. Também pediu que a cidade desenvolvesse regulamentações para as existentes, enquanto proporcionava oportunidades para que os membros da comunidade pudessem opinar. Embora o departamento de polícia de Milwaukee diga que irá elaborar uma política para garantir que ninguém seja preso apenas com base em correspondências de reconhecimento facial, não há nada que os mantenha responsáveis.