De acordo com um relatório do New York Times , a tecnologia de reconhecimento facial desenvolvida por uma empresa chamada DataWorks Plus causou a prisão indevida de Robert Julian-Borchak Williams, residente no Michigan.
Tudo começou quando a polícia começou a investigar um assalto a uma loja local ocorrida em outubro de 2018. As imagens da CCTV do incidente identificaram um homem negro usando um gorro do St. Louis Cardinals como o autor do crime.
Uma imagem estática do vídeo foi carregada no banco de dados de reconhecimento facial de Michigan. O software da DataWorks identificou Williams como um possível suspeito, juntamente com vários outros indivíduos. Os resultados foram mostrados a um gerente da loja onde ocorreu o assalto, que apontou para Williams como o principal suspeito.
Os procedimentos operacionais padrão exigem que a polícia de Michigan realize uma investigação completa de acompanhamento para fazer backup da identificação do software, como obter relatórios de testemunhas oculares, identificação biométrica e muito mais antes de emitir uma ordem de prisão. Eles não fizeram nada disso, algemando o homem no gramado da frente e arrastando-o para um centro de detenção próximo para mais perguntas.
Apesar de várias tentativas, os pesquisadores não conseguiram identificar positivamente Williams como o culpado. Imagens estáticas do vídeo de CFTV colocadas ao lado da carteira de motorista de Williams mostraram uma clara incompatibilidade entre os dois. No entanto, ele foi forçado a passar uma noite na prisão, passando 30 horas lá antes de ser libertado sob fiança.
A União Americana das Liberdades Civis de Michigan se interessou ativamente pelo caso e representou Williams em uma audiência que ocorreu duas semanas após a prisão inicial.
As acusações foram retiradas, com a promotoria do condado de Wayne pedindo desculpas pela prisão.
Tendência clara na tecnologia de reconhecimento facial
Grandes empresas de tecnologia como Amazon, IBM e Microsoft anunciaram recentemente sua intenção de parar de criar tecnologia de reconhecimento facial para órgãos policiais e agências associadas. A decisão vem após uma infinidade de estudos mostrando vieses e erros claros nos algoritmos.
O reconhecimento, a opinião da Amazon sobre o reconhecimento facial, já identificou o popular apresentador de televisão americano Oprah Winfrey como masculino. Também correspondia erroneamente a 28 membros do Congresso com um banco de dados de fotos.
Um estudo do Instituto Nacional de Ciência e Tecnologia revelou que minorias visíveis e grupos desfavorecidos, como rostos afro-americanos e asiáticos, foram identificados erroneamente até 100 vezes mais do que rostos caucasianos.
Apesar das implicações sociais desconcertantes do viés de reconhecimento facial, alguns países estão avançando com a tecnologia . A menos que abordadas, as ramificações a longo prazo da adoção amplamente da tecnologia de reconhecimento facial podem ser extremamente preocupantes.