Flock, a empresa de leitores automáticos de placas de veículos e câmeras alimentadas por IA, utiliza trabalhadores estrangeiros da Upwork para treinar seus algoritmos de aprendizado de máquina, com material de treinamento informando os trabalhadores sobre como revisar e categorizar filmagens, incluindo imagens de pessoas e veículos nos Estados Unidos, de acordo com material revisado pela 404 Media que foi acidentalmente exposto pela empresa.
As descobertas levantam questões sobre quem exatamente tem acesso às filmagens coletadas pelas câmeras de vigilância da Flock e onde as pessoas que revisam as filmagens podem estar localizadas. A Flock se tornou uma tecnologia onipresente nos EUA, com suas câmeras presentes em milhares de comunidades que a polícia usa todos os dias para investigar casos como roubo de veículos. A polícia local também realizou inúmeras buscas para o ICE no sistema.
Empresas que usam IA ou aprendizado de máquina costumam recorrer a trabalhadores estrangeiros para treinar seus algoritmos, muitas vezes porque a mão de obra é mais barata do que a contratação doméstica. Mas a natureza do negócio da Flock – criar um sistema de vigilância que monitora constantemente os movimentos dos residentes dos EUA – significa que as filmagens podem ser mais sensíveis do que outros trabalhos de treinamento de IA.
As câmeras da Flock escaneiam continuamente a placa, cor, marca e modelo de todos os veículos que passam. As autoridades podem então pesquisar câmeras em todo o país para ver onde mais um veículo foi visto. As autoridades geralmente vasculham esses dados sem um mandado, levando a American Civil Liberties Union e a Electronic Frontier Foundation a processar recentemente uma cidade coberta por quase 500 câmeras da Flock.
De forma ampla, a Flock utiliza IA ou aprendizado de máquina para detectar automaticamente placas de veículos, veículos e pessoas, incluindo as roupas que estão vestindo, a partir de filmagens de câmeras. Uma patente da Flock também menciona câmeras detectando “raça”.
Vários informantes apontaram para um painel online exposto que mostrava várias métricas associadas ao treinamento de IA da Flock. Incluía números sobre “anotações concluídas” e “tarefas de anotadores restantes na fila”, com anotações sendo as notas que os trabalhadores adicionam às filmagens revisadas para ajudar a treinar algoritmos de IA. As tarefas incluem categorizar marcas de veículos, cores e tipos, transcrever placas de veículos e “tarefas de áudio”. A Flock recentemente começou a anunciar um recurso que detectará “gritos”. O painel mostrava que os trabalhadores às vezes completavam milhares de anotações em períodos de dois dias.
O painel exposto incluía uma lista de pessoas encarregadas de anotar as filmagens da Flock. Levando esses nomes, a 404 Media descobriu que alguns estavam localizados nas Filipinas, de acordo com seus perfis no LinkedIn e outros perfis online.
Muitas dessas pessoas foram contratadas através da Upwork, de acordo com o material exposto. A Upwork é uma plataforma de trabalho freelance onde as empresas podem contratar designers e escritores ou pagar por “serviços de IA”, de acordo com o site da Upwork.
Os informantes também apontaram para várias apresentações públicas da Flock que explicavam em mais detalhes como os trabalhadores deveriam categorizar as filmagens. Não está claro qual filmagem específica da câmera os trabalhadores de IA da Flock estão revisando. Mas capturas de tela incluídas nos guias dos trabalhadores mostram várias imagens de veículos com placas dos EUA, incluindo em Nova York, Michigan, Flórida, Nova Jersey e Califórnia. Outras imagens incluem placas de sinalização claramente mostrando que a filmagem foi feita dentro dos EUA, e uma imagem contém um anúncio de um escritório de advocacia específico em Atlanta.
Um slide sobre áudio dizia aos trabalhadores para “ouvir o áudio até o final”, depois selecionar de um menu suspenso incluindo “acidente de carro”, “disparo de arma” e “condução imprudente”. Outro slide diz que o barulho de pneus pode estar associado a alguém “fazendo donuts”, e outro diz que, como pode ser difícil distinguir entre um adulto e uma criança gritando, os trabalhadores devem usar um segundo menu suspenso explicando sua confiança no que ouviram, com opções como “certo” e “incerto”.
Outro slide explica que os trabalhadores não devem rotular pessoas dentro de carros, mas devem rotular aqueles que andam de motocicleta ou a pé.
Após a 404 Media entrar em contato com a Flock para comentar, o painel exposto deixou de estar disponível. A Flock então se recusou a comentar.