A Europa deu o primeiro passo para garantir que não se tornasse o novo padrão de policiamento.
Em uma nova proposta publicada na quarta-feira, a Comissão Europeia apresentou regulamentos que, se aprovados, irão restringir e regular o uso de inteligência artificial para “vigilância indiscriminada” e proibir o monitoramento e rastreamento de pessoas em ambientes digitais e físicos.
Se se tornar lei, isso também abriria um precedente para países como os EUA e a China, que ainda não introduziram regulamentação semelhante sobre inteligência artificial - embora também indiscutivelmente muito à frente da Europa no campo da IA.
O que está na legislação
O rascunho de 108 páginas descreve várias peças-chave da legislação para regular os sistemas de IA à medida que são desenvolvidos e implementados na Europa.
Em seu estado atual, a proposta proibirá a aplicação da lei de usar sistemas de identificação biométrica remota em tempo real em espaços acessíveis ao público, o que significa que, em quase todas as situações, qualquer forma de vigilância policial em massa que implemente o reconhecimento facial ou outros dados biométricos não seria permitida.
O projeto especifica, no entanto, que algumas proibições não serão aplicadas quando implementadas por governos da UE ou autoridades públicas para "salvaguardar a segurança pública".
Também proibiria as autoridades públicas de usar um sistema de "pontuação social" semelhante ao implementado na China , bem como sistemas que explorariam grupos vulneráveis ou "implantariam técnicas subliminares além da consciência de uma pessoa para distorcer materialmente o comportamento de uma pessoa".
Além das proibições totais, a legislação também define padrões para sistemas de IA de “alto risco” que devem ser usados como um componente de segurança de um produto ou do próprio produto. Isso incluiria infraestrutura essencial como estradas, abastecimento de água, gás e eletricidade. Esses sistemas devem atender a uma série de requisitos, incluindo conformidade com regras de privacidade de dados, documentação transparente para seus usuários e supervisão humana. A violação de qualquer um desses regulamentos pode resultar em multas de até 20 milhões de euros ou 4% do faturamento anual global de uma empresa, o que for maior.
Por último, um novo Conselho Europeu de Inteligência Artificial será criado para decidir se um sistema de IA é compatível e seus níveis de risco.
'GDPR para IA'
Foram traçados paralelos entre esta nova legislação e o Regulamento Geral de Proteção de Dados , que foi introduzido em 2016 para controlar as práticas de coleta de dados da Big Tech.
Sua introdução criou um modelo para legislação semelhante na Califórnia e em outros países não pertencentes à UE , que, embora falho, impôs responsabilidade aos países que coletam dados pessoais.
É provável que a primeira tentativa da UE de regulamentar e restringir a IA também será usada para inspirar países não pertencentes à UE a adotarem regulamentações semelhantes: no mesmo dia em que a UE divulgou sua proposta, a Comissão Federal de Comércio dos Estados Unidos divulgou um comunicado descrevendo as formas pelas quais usaria as leis existentes para “proibir práticas injustas ou enganosas (incluindo) a venda de algoritmos com preconceito racial”.
Perguntas levantadas sobre exceções
A ambiciosa lei, no entanto, levantou muitas questões e preocupações sobre potenciais lacunas, em particular a linguagem vaga em torno das isenções à regra.
Por exemplo, embora a polícia geralmente seja impedida de usar “sistemas de identificação biométrica remota”, isenções ainda podem ser feitas em casos graves, como encontrar crianças sequestradas e certos crimes que podem variar de assassinato a fraude. Há também a questão do que é considerado IA que “protege a segurança pública”, uma formulação que poderia servir para justificar o uso de sistemas de IA pelos militares ou qualquer agência de segurança pública.
Há também a questão do Conselho Europeu de Inteligência Artificial: quem quer que faça parte do conselho terá uma influência significativa sobre quais tecnologias de IA serão restritas e permitidas.
A legislação acaba de ser apresentada e passará por rodadas de debates e emendas antes de ser aprovada. É provável que a maior parte desta legislação não seja alterada, mas resta saber se a CE tratará das preocupações levantadas por algumas das formulações vagas e exceções que parecem minar os próprios esforços para controlar o uso de IA para vigilância .
O que você acha da legislação? Deixe-nos saber nos comentários.
O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.