Em 2016, um homem inocente foi espancado e detido pela polícia na sua porta da frente depois de ser identificado como um ladrão de banco. Casos como esse ainda estão acontecendo hoje, e 600 agências policiais estão usando essa tecnologia enquanto falamos.
Os problemas com o software de reconhecimento facial
Existem muitos problemas com a tecnologia de reconhecimento facial, problemas que podem destruir nossas liberdades pessoais e a sociedade em geral.
Aqui estão algumas das nossas maiores preocupações:
O potencial de abuso: os sistemas de reconhecimento facial reúnem e usam gigantescos bancos de dados biométricos, cheios de seus dados pessoais, e são de propriedade de empresas privadas, com pouca ou nenhuma supervisão. Quanto podemos confiar em uma empresa privada que possui enormes bancos de dados de nossos dados biométricos? O que os impede de vender nossos dados?
A exploração desses bancos de dados biométricos estaria no topo da lista de todos os hackers e, uma vez que sua identidade vazou, quão difícil seria recuperá-la? Quão difícil seria provar que você não cometeu um crime se suas impressões digitais ou escaneamento facial foram roubadas? As maneiras pelas quais esses sistemas podem ser abusados são simplesmente desastrosas e arriscadas demais.
Imprecisão: Vários estudos independentes confirmaram os sistemas de reconhecimento facial como racistas e sexistas. O NIST (Instituto Nacional de Padrões e Tecnologia) descobriu que, para a correspondência um-para-um, a maioria dos sistemas apresentava uma taxa mais alta de correspondências falso-positivas para rostos asiáticos e afro-americanos em relação aos rostos caucasianos. Os algoritmos desenvolvidos nos EUA eram consistentemente ruins em combinar rostos asiáticos, afro-americanos e nativos americanos. O NIST também descobriu que, ao estudar partidas um-para-muitos, os sistemas apresentavam as piores taxas de falsos positivos para mulheres afro-americanas, o que coloca populações inteiras em maior risco de serem falsamente acusadas de um crime.
A Clearview AI, uma empresa de reconhecimento facial, foi recentemente exposta a coletar mais de 3 bilhões de imagens de mídias sociais para alimentar seu banco de dados de reconhecimento facial sem o consentimento dos usuários. Enquanto isso, o governo do Reino Unido instalou câmeras de reconhecimento facial ao vivo em Londres, prontas para serem integradas ao policiamento diário. Embora a polícia da cidade diga que apenas os indivíduos das listas de observação "sob medida" serão sinalizados, pesquisadores independentes descobriram que quatro em cada cinco pessoas identificadas pelo software de reconhecimento facial da Polícia Metropolitana são inocentes.
Bancos de dados orwellianos: com bancos de dados globais cheios de nossas imagens, os funcionários poderiam usar câmeras de reconhecimento facial ao vivo como uma ferramenta de vigilância aberta para rastrear qualquer pessoa a qualquer momento. Se esses bancos de dados chegassem às mãos de governos tirânicos em países opressivos, os dados poderiam ser usados para atacar, enquadrar, chantagear ou até aprisionar civis inocentes.
Como esses dados seriam armazenados e sob quais leis estaduais seriam regulamentados? Podemos optar por não participar? Por quanto tempo uma pessoa seria incluída em uma lista de observação "sob medida" e sinalizada após ser condenada? Essas são questões de privacidade e segurança que silenciosamente escaparam ao radar, para a conveniência de empresas privadas.
Por que isso importa
A tecnologia de reconhecimento facial - com todas as suas imprecisões e preconceitos - já está sendo usada pelos governos e pela polícia com efeitos terríveis. É apenas uma questão de tempo até que o mundo esteja coberto de vigilância sob o disfarce de 'segurança pública'. A polícia pode rastrear qualquer pessoa a qualquer momento usando o reconhecimento facial ao vivo. Um passeio no parque, uma noite com amigos, compras de supermercado ou mesmo entrando em seu apartamento serão todos retirados do circuito interno de televisão e usados por empresas de reconhecimento facial para fornecer às autoridades policiais.
A parte mais horrível é que você não tem voz a dizer. A invasão em nossa privacidade é tentacular. Nossos dados biométricos mais valiosos podem ser comprados e vendidos, explorados e abusados a tal ponto que você pode ser enquadrado por um crime que não cometeu.
O futuro do reconhecimento facial
Antes de introduzirmos o reconhecimento facial na sociedade, devemos tomar as seguintes precauções para evitar se tornar um estado de vigilância administrado pela polícia:
- Exija regulamentos mais rígidos: precisamos considerar as violações dos direitos civis que a tecnologia de reconhecimento facial pode causar. Precisamos de uma visão mais profunda de onde e por quanto tempo nossos dados estão sendo armazenados, onde estão sendo coletados e para que estão sendo usados. Mesmo que as regulamentações sejam aprovadas, também não devemos ignorar o fato de que as leis de privacidade dos EUA fragmentadas deixaram enormes brechas de dados para o Facebook e outros a explorar.
- Aguarde a tecnologia melhorar: com todas as perguntas não respondidas em torno do uso do reconhecimento facial, é óbvio que a tecnologia ainda está em sua infância. Enquanto os aeroportos adotaram a tecnologia para acelerar o processo de embarque, grandes empresas de tecnologia como Google, Amazon e IBM apoiaram uma moratória de um ano no uso da tecnologia de reconhecimento facial, enquanto outras defendem uma lei nacional de reconhecimento facial. Todas essas são oportunidades para melhorar sua precisão e restringir seu escopo.
O poder das empresas privadas pode redesenhar a civilização como a conhecemos. Esperamos que a legislação ocidental possa garantir que essa tecnologia respeite nossos direitos à segurança e à privacidade, mas, no momento, não apostaríamos nela.
