A EUA está mais perto de proibir a vigilância em massa de IA

O que é pior do que vigilância em massa? É a vigilância que usa tecnologia de reconhecimento facial.

A Europa deu o primeiro passo para garantir que não se tornasse o novo padrão de policiamento.

 

Em uma nova proposta publicada na quarta-feira, a Comissão Europeia apresentou regulamentos que, se aprovados, irão restringir e regular o uso de inteligência artificial para “vigilância indiscriminada” e proibir o monitoramento e rastreamento de pessoas em ambientes digitais e físicos.

 

Se se tornar lei, isso também abriria um precedente para países como os EUA e a China, que ainda não introduziram regulamentação semelhante sobre inteligência artificial - embora também indiscutivelmente muito à frente da Europa no campo da IA.

 

O que está na legislação

 

O rascunho de 108 páginas descreve várias peças-chave da legislação para regular os sistemas de IA à medida que são desenvolvidos e implementados na Europa.

 

Em seu estado atual, a proposta proibirá a aplicação da lei de usar sistemas de identificação biométrica remota em tempo real em espaços acessíveis ao público, o que significa que, em quase todas as situações, qualquer forma de vigilância policial em massa que implemente o reconhecimento facial ou outros dados biométricos não seria permitida.

 

O projeto especifica, no entanto, que algumas proibições não serão aplicadas quando implementadas por governos da UE ou autoridades públicas para "salvaguardar a segurança pública".

 

Também proibiria as autoridades públicas de usar um sistema de "pontuação social" semelhante ao implementado na China , bem como sistemas que explorariam grupos vulneráveis ​​ou "implantariam técnicas subliminares além da consciência de uma pessoa para distorcer materialmente o comportamento de uma pessoa".

 

Além das proibições totais, a legislação também define padrões para sistemas de IA de “alto risco” que devem ser usados ​​como um componente de segurança de um produto ou do próprio produto. Isso incluiria infraestrutura essencial como estradas, abastecimento de água, gás e eletricidade. Esses sistemas devem atender a uma série de requisitos, incluindo conformidade com regras de privacidade de dados, documentação transparente para seus usuários e supervisão humana. A violação de qualquer um desses regulamentos pode resultar em multas de até 20 milhões de euros ou 4% do faturamento anual global de uma empresa, o que for maior.

 

Por último, um novo Conselho Europeu de Inteligência Artificial será criado para decidir se um sistema de IA é compatível e seus níveis de risco.

 

'GDPR para IA'

 

Foram traçados paralelos entre esta nova legislação e o Regulamento Geral de Proteção de Dados , que foi introduzido em 2016 para controlar as práticas de coleta de dados da Big Tech.

 

Sua introdução criou um modelo para legislação semelhante na Califórnia e em outros países não pertencentes à UE , que, embora falho, impôs responsabilidade aos países que coletam dados pessoais.

 

É provável que a primeira tentativa da UE de regulamentar e restringir a IA também será usada para inspirar países não pertencentes à UE a adotarem regulamentações semelhantes: no mesmo dia em que a UE divulgou sua proposta, a Comissão Federal de Comércio dos Estados Unidos divulgou um comunicado descrevendo as formas pelas quais usaria as leis existentes para “proibir práticas injustas ou enganosas (incluindo) a venda de algoritmos com preconceito racial”.

 

Perguntas levantadas sobre exceções

 

A ambiciosa lei, no entanto, levantou muitas questões e preocupações sobre potenciais lacunas, em particular a linguagem vaga em torno das isenções à regra.

 

Por exemplo, embora a polícia geralmente seja impedida de usar “sistemas de identificação biométrica remota”, isenções ainda podem ser feitas em casos graves, como encontrar crianças sequestradas e certos crimes que podem variar de assassinato a fraude. Há também a questão do que é considerado IA que “protege a segurança pública”, uma formulação que poderia servir para justificar o uso de sistemas de IA pelos militares ou qualquer agência de segurança pública.

 

Há também a questão do Conselho Europeu de Inteligência Artificial: quem quer que faça parte do conselho terá uma influência significativa sobre quais tecnologias de IA serão restritas e permitidas.

 

A legislação acaba de ser apresentada e passará por rodadas de debates e emendas antes de ser aprovada. É provável que a maior parte desta legislação não seja alterada, mas resta saber se a CE tratará das preocupações levantadas por algumas das formulações vagas e exceções que parecem minar os próprios esforços para controlar o uso de IA para vigilância .

 

O que você acha da legislação? Deixe-nos saber nos comentários.

 

 

O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.


Strong

3824 Blog Postagens

Comentários