EDPB e EDPS apelam à proibição da utilização de IA para reconhecimento automatizado de características humanas

O AEDP e a AEPD adotaram um parecer conjunto sobre a Proposta de Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).

A EDPB e a AEPD saúdam vivamente o objetivo de abordar a utilização de sistemas de IA na União Europeia, incluindo a utilização de sistemas de IA por instituições, órgãos ou agências da UE. Ao mesmo tempo, o EDPB e a AEPD estão preocupados com a exclusão da cooperação internacional no domínio da aplicação da lei do âmbito da proposta.

A EDPB e a AEPD sublinham também a necessidade de esclarecer explicitamente que a legislação da UE em vigor em matéria de proteção de dados (GDPR, EUDPR e o LED) se aplica a qualquer tratamento de dados pessoais abrangidos pelo âmbito do projeto de Regulamento AI.

Embora o EDPB e a AEPD se congratulem com a abordagem baseada no risco subjacente à Proposta, consideram que o conceito de “risco para os direitos fundamentais” deve ser alinhado com o quadro de proteção de dados da UE. A EDPB e a AEPD recomendam que os riscos sociais para grupos de indivíduos também sejam avaliados e atenuados. Além disso, concordam com a Proposta de que a classificação de um sistema de IA como de alto risco não significa necessariamente que seja lícito per se e possa ser implantado pelo usuário como tal. A EDPB e a AEPD consideram também que o cumprimento das obrigações legais decorrentes da legislação da União – incluindo em matéria de proteção de dados pessoais – deve ser uma condição prévia para a entrada no mercado europeu como produto com a marcação CE.

Tendo em conta os riscos extremamente elevados representados pela identificação biométrica remota de indivíduos em espaços acessíveis ao público, a EDPB e a EDPS apelam à proibição geral de qualquer utilização de IA para o reconhecimento automatizado de características humanas em espaços acessíveis ao público, como o reconhecimento de rostos , marcha, impressões digitais, DNA, voz, teclas e outros sinais biométricos ou comportamentais, em qualquer contexto. Da mesma forma, a EDPB e a AEPD recomendam a proibição de sistemas de IA que utilizem biometria para categorizar indivíduos em grupos com base na etnia, sexo, orientação política ou sexual ou outros motivos pelos quais a discriminação é proibida ao abrigo do artigo 21.º da Carta dos Direitos Fundamentais. Além disso, a EDPB e a AEPD consideram que a utilização de IA para inferir emoções de uma pessoa singular é altamente indesejável e deve ser proibida,

Andrea Jelinek, Presidente da EDPB, e Wojciech Wiewiórowski, EDPS, disseram : “A implantação da identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses locais. Aplicativos como o reconhecimento facial ao vivo interferem nos direitos e liberdades fundamentais a tal ponto que podem questionar a essência desses direitos e liberdades. Isso exige uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso de reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar uma estrutura jurídica centrada no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso de IA para pontuação social, uma vez que é contra os valores fundamentais da UE e pode levar à discriminação. ”

A AEPD e a AEPD congratulam-se ainda com o facto de a Proposta designar a AEPD como autoridade competente e autoridade de fiscalização do mercado para a supervisão das instituições, agências e organismos da União. No entanto, o papel e as tarefas da AEPD devem ser clarificados, especificamente no que se refere ao seu papel de autoridade de fiscalização do mercado.

A EDPB e a AEPD relembram que as autoridades de proteção de dados (APD) já estão a aplicar o GDPR e o LED sobre os sistemas de IA que envolvem dados pessoais, a fim de garantir a proteção dos direitos fundamentais e, mais especificamente, do direito à proteção de dados. Consequentemente, a designação das APD como autoridades supervisoras nacionais garantiria uma abordagem regulamentar mais harmonizada e contribuiria para a interpretação coerente das disposições relativas ao processamento de dados em toda a UE. Consequentemente, a AEPD e a AEPD consideram que, para assegurar uma aplicação harmoniosa deste novo regulamento, as APD devem ser designadas como autoridades supervisoras nacionais nos termos do artigo 59.o da Proposta.

Por último, a EDPB e a AEPD questionam a designação de um papel preponderante para a Comissão Europeia no “European Artificial Intelligence Board” (EAIB), uma vez que tal estaria em conflito com a necessidade de um organismo europeu de IA independente de qualquer influência política. Para garantir a sua independência, a Proposta deve dar mais autonomia ao EAIB e garantir que pode agir por sua própria iniciativa.