Em um primeiro momento, o reconhecimento facial levou a uma prisão indevida

A tecnologia de reconhecimento facial foi proibida em cidades dos EUA, como São Francisco e, mais recentemente, em Boston , em cima de uma campanha concertada para proibir a proibição nos campus universitários . Mas parece que o escrutínio não pode vir rápido o suficiente.

De acordo com um relatório do New York Times , a tecnologia de reconhecimento facial desenvolvida por uma empresa chamada DataWorks Plus causou a prisão indevida de Robert Julian-Borchak Williams, residente no Michigan.

Tudo começou quando a polícia começou a investigar um assalto a uma loja local ocorrida em outubro de 2018. As imagens da CCTV do incidente identificaram um homem negro usando um gorro do St. Louis Cardinals como o autor do crime.

Uma imagem estática do vídeo foi carregada no banco de dados de reconhecimento facial de Michigan. O software da DataWorks identificou Williams como um possível suspeito, juntamente com vários outros indivíduos. Os resultados foram mostrados a um gerente da loja onde ocorreu o assalto, que apontou para Williams como o principal suspeito.

Os procedimentos operacionais padrão exigem que a polícia de Michigan realize uma investigação completa de acompanhamento para fazer backup da identificação do software, como obter relatórios de testemunhas oculares, identificação biométrica e muito mais antes de emitir uma ordem de prisão. Eles não fizeram nada disso, algemando o homem no gramado da frente e arrastando-o para um centro de detenção próximo para mais perguntas.

Apesar de várias tentativas, os pesquisadores não conseguiram identificar positivamente Williams como o culpado. Imagens estáticas do vídeo de CFTV colocadas ao lado da carteira de motorista de Williams mostraram uma clara incompatibilidade entre os dois. No entanto, ele foi forçado a passar uma noite na prisão, passando 30 horas lá antes de ser libertado sob fiança.

A União Americana das Liberdades Civis de Michigan se interessou ativamente pelo caso e representou Williams em uma audiência que ocorreu duas semanas após a prisão inicial.

As acusações foram retiradas, com a promotoria do condado de Wayne pedindo desculpas pela prisão.

Tendência clara na tecnologia de reconhecimento facial

Grandes empresas de tecnologia como Amazon, IBM e Microsoft anunciaram recentemente sua intenção de parar de criar tecnologia de reconhecimento facial para órgãos policiais e agências associadas. A decisão vem após uma infinidade de estudos mostrando vieses e erros claros nos algoritmos.

O reconhecimento, a opinião da Amazon sobre o reconhecimento facial, já identificou o popular apresentador de televisão americano Oprah Winfrey como masculino. Também correspondia erroneamente a 28 membros do Congresso com um banco de dados de fotos.

Um estudo do Instituto Nacional de Ciência e Tecnologia revelou que minorias visíveis e grupos desfavorecidos, como rostos afro-americanos e asiáticos, foram identificados erroneamente até 100 vezes mais do que rostos caucasianos.

Apesar das implicações sociais desconcertantes do viés de reconhecimento facial, alguns países estão avançando com a tecnologia . A menos que abordadas, as ramificações a longo prazo da adoção amplamente da tecnologia de reconhecimento facial podem ser extremamente preocupantes.

 

Máxima comunicação com proteção ao extremo? Avance Network: A verdadeira rede social junte-se a nós


Strong

5178 Blog Postagens

Comentários