A proposta de Regulamento datada de 21 de Abril de
2021, ainda em discussão, após acordo no Parlamento Europeu, contempla no seu
artigo 5.º as proibições de práticas conhecidas, a saber:
“1.Estão proibidas as
seguintes práticas de inteligência artificial:
a)A colocação no mercado,
a colocação em serviço ou a utilização de um sistema de IA que empregue
técnicas subliminares que contornem a consciência de uma pessoa para distorcer
substancialmente o seu comportamento de uma forma que cause ou seja susceptível
de causar danos físicos ou psicológicos a essa ou a outra pessoa;
b)A colocação no mercado,
a colocação em serviço ou a utilização de um sistema de IA que explore
quaisquer vulnerabilidades de um grupo específico de pessoas associadas à sua
idade ou deficiência física ou mental, a fim de distorcer substancialmente o
comportamento de uma pessoa pertencente a esse grupo de uma forma que cause ou
seja susceptível de causar danos físicos ou psicológicos a essa ou a outra
pessoa;
c)A colocação no mercado,
a colocação em serviço ou a utilização de sistemas de IA por autoridades
públicas ou em seu nome para efeitos de avaliação ou classificação da
credibilidade de pessoas singulares durante um certo período com base no seu
comportamento social ou em características de personalidade ou pessoais,
conhecidas ou previsíveis, em que a classificação social conduz a uma das
seguintes situações ou a ambas:
i)tratamento prejudicial
ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas em
contextos sociais não relacionados com os contextos nos quais os dados foram
originalmente gerados ou recolhidos,
ii)tratamento prejudicial
ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas que
é injustificado e desproporcionado face ao seu comportamento social ou à
gravidade do mesmo;
d)A utilização de
sistemas de identificação biométrica à distância em «tempo real» em espaços
acessíveis ao público para efeitos de manutenção da ordem pública, salvo se
essa utilização for estritamente necessária para alcançar um dos seguintes
objectivos:
i)a investigação
selectiva de potenciais vítimas específicas de crimes, nomeadamente crianças
desaparecidas,
ii)a prevenção de uma
ameaça específica, substancial e iminente à vida ou à segurança física de
pessoas singulares ou de um ataque terrorista,
iii)a detecção,
localização, identificação ou instauração de acção penal relativamente a um
infractor ou suspeito de uma infracção penal referida no artigo 2.º, n.º 2, da
Decisão-Quadro 2002/584/JAI do Conselho 62 e punível no Estado-Membro em causa
com pena ou medida de segurança privativas de liberdade de duração máxima não
inferior a três anos e tal como definidas pela legislação desse Estado-Membro.
2.A utilização de
sistemas de identificação biométrica à distância «em tempo real» em espaços
acessíveis ao público para efeitos de manutenção da ordem pública que vise
alcançar um dos objectivos referidos no n.º 1, alínea d), deve ter em conta os
seguintes elementos:
a)A natureza da situação
que origina a possível utilização, em especial a gravidade, a probabilidade e a
magnitude dos prejuízos causados na ausência da utilização do sistema;
b)As consequências da
utilização do sistema para os direitos e as liberdades de todas as pessoas
afectadas, em especial a gravidade, a probabilidade e a magnitude dessas
consequências.
Além disso, a utilização
de sistemas de identificação biométrica à distância «em tempo real» em espaços
acessíveis ao público para efeitos de manutenção da ordem pública que vise
alcançar um dos objectivos referidos no n.º 1, alínea d), deve observar
salvaguardas e condições necessárias e proporcionadas em relação a tal
utilização, nomeadamente no respeitante a limitações temporais, geográficas e
das pessoas visadas.
3.No tocante ao n.º 1,
alínea d), e ao n.º 2, cada utilização específica de um sistema de
identificação biométrica à distância «em tempo real» em espaços acessíveis ao
público para efeitos de manutenção da ordem pública está sujeita a autorização
prévia concedida por uma autoridade judiciária ou por uma autoridade
administrativa independente do Estado-Membro no qual a utilização terá lugar
após apresentação de um pedido fundamentado em conformidade com as regras de
execução previstas no direito nacional a que se refere o n.º 4. Contudo, numa
situação de urgência devidamente justificada, a utilização do sistema pode ser
iniciada sem uma autorização e esta pode ser solicitada apenas durante ou após
a utilização.
A autoridade judiciária
ou administrativa competente apenas deve conceder a autorização se considerar,
com base em dados objectivos ou indícios claros que lhe tenham sido
apresentados, que a utilização do sistema de identificação biométrica à distância
«em tempo real» em apreço é necessária e proporcionada para alcançar um dos
objectivos especificados no n.º 1, alínea d), conforme identificado no pedido.
Ao decidir sobre o pedido, a autoridade judiciária ou administrativa competente
tem em conta os elementos referidos no n.º 2.
4.Um Estado-Membro pode
decidir prever a possibilidade de autorizar total ou parcialmente a utilização
de sistemas de identificação biométrica à distância «em tempo real» em espaços
acessíveis ao público para efeitos de manutenção da ordem pública dentro dos
limites e sob as condições enumeradas no n.º 1, alínea d), e nos n.ºs 2 e 3.
Esse Estado-Membro estabelece na sua legislação nacional as regras
pormenorizadas aplicáveis ao pedido, à emissão e ao exercício das autorizações
a que se refere o n.º 3, bem como à supervisão das mesmas. Essas regras
especificam igualmente em relação a que objectivos enumerados no n.º 1, alínea
d), incluindo quais das infracções penais referidas na subalínea iii) da mesma,
as autoridades competentes podem ser autorizadas a usar esses sistemas para
efeitos de manutenção da ordem pública.”
