DA
PROPOSTA ORIGINAL
Da Proposta inicial de
Regulamento Europeu, em fase de acerto e publicação, avultam como proibidas as
seguintes práticas de inteligência artificial:
§ A
colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que empregue técnicas
subliminares que contornem a consciência de uma pessoa para distorcer
substancialmente o seu comportamento de uma forma tal que cause ou seja susceptível
de causar danos físicos ou psicológicos a essa ou a outra pessoa;
§ A
colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que explore quaisquer
vulnerabilidades de um grupo específico de pessoas associadas à sua idade
ou deficiência física ou mental, a fim de distorcer substancialmente o
comportamento de pessoa pertencente a um tal grupo de forma que cause ou seja
susceptível de causar danos físicos ou psicológicos a essa ou a outra pessoa;
§ A
colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA por autoridades públicas
ou em seu nome para efeitos de avaliação
ou classificação da credibilidade de pessoas singulares durante um certo
período com base no seu comportamento social ou em características de
personalidade ou pessoais, conhecidas ou previsíveis, em que a classificação
social conduz a uma das seguintes situações ou a ambas:
o
tratamento prejudicial ou desfavorável de
determinadas pessoas singulares ou de grupos inteiros em contextos sociais não
relacionados com os contextos em que os dados foram originalmente gerados ou
recolhidos,
o
tratamento prejudicial ou desfavorável de
certas pessoas singulares ou grupos inteiros que é injustificado e
desproporcionado face ao seu comportamento social ou à gravidade do mesmo;
§ A
utilização de sistemas de identificação
biométrica à distância em «tempo real» em espaços acessíveis ao público
para efeitos de manutenção da ordem pública, salvo se essa utilização for
estritamente necessária para alcançar um dos seguintes objectivos:
o
a investigação selectiva de potenciais
vítimas específicas de crimes, nomeadamente crianças desaparecidas,
o
a prevenção de uma ameaça específica,
substancial e iminente à vida ou à segurança física de pessoas singulares ou de
um ataque terrorista,
o
a detecção, localização, identificação ou
instauração de acção penal relativamente a um infractor ou suspeito de uma
infracção penal (…) punível no Estado-Membro em causa com pena ou medida de
segurança privativas de liberdade de duração máxima não inferior a três anos e como
tal definidas pela legislação de um tal Estado-Membro.
A utilização de sistemas de identificação biométrica à
distância «em tempo real» em espaços acessíveis ao público para efeitos de
manutenção da ordem pública que vise alcançar um dos objectivos
precedentemente enunciados deve ter em conta os seguintes elementos:
§ A
natureza da situação que origina a possível utilização, em especial a
gravidade, a probabilidade e a magnitude dos prejuízos causados na ausência da
utilização do sistema;
§ As
consequências da utilização do sistema para os direitos e as liberdades de
todas as pessoas afectadas, em especial a gravidade, a probabilidade e a
magnitude dessas consequências.
Além disso, a utilização
de sistemas de identificação biométrica
à distância «em tempo real» em espaços acessíveis ao público para efeitos de
manutenção da ordem pública que vise alcançar um dos objectivos +precedentemente
definidos deve observar salvaguardas e condições necessárias e proporcionadas
em relação a tal utilização, nomeadamente no respeitante a limitações
temporais, geográficas e das pessoas visadas.
No tocante a um qualquer sistema de identificação biométrica à
distância «em tempo real» em espaços acessíveis ao público para efeitos de
manutenção da ordem pública, cada
uma das suas utilizações específicas está
sujeita a autorização prévia concedida por uma autoridade judiciária ou por uma
autoridade administrativa independente do Estado-Membro no qual a utilização
terá lugar após apresentação de um pedido fundamentado em conformidade com as
regras de execução previstas no direito nacional.
Contudo, numa situação de
urgência devidamente justificada, a utilização do sistema pode ser iniciada sem
uma autorização que poderá ser solicitada apenas durante ou após a sua
utilização.
A autoridade judiciária
ou administrativa competente apenas deve conceder a autorização se considerar,
com base em dados objectivos ou indícios claros que lhe tenham sido
apresentados, que a utilização do sistema de identificação biométrica à
distância «em tempo real» em apreço é necessária e proporcionada para alcançar
um dos objectivos precedentemente definidos, conforme identificado no pedido.
Ao decidir sobre o pedido, a autoridade judiciária ou administrativa competente
tem em conta as salvaguardas supra mencionadas.
Um Estado-Membro pode
decidir prever a possibilidade de autorizar total ou parcialmente a utilização
de sistemas de identificação biométrica à distância «em tempo real» em espaços
acessíveis ao público para efeitos de manutenção da ordem pública dentro dos
limites e sob as condições enumeradas precedentemente.
Se assim for, o Estado-Membro estabelece na
sua legislação nacional as regras pormenorizadas aplicáveis ao pedido, à
emissão e ao exercício das autorizações exigíveis, bem como à supervisão das
mesmas.
Tais regras especificarão
igualmente em relação a que objectivos enumerados, em que se incluem as infracções
penais emolduradas, as autoridades competentes podem ser autorizadas a usar
esses sistemas para efeitos de manutenção da ordem pública.
(OBS.: O Parlamento
Europeu introduziu, na concertação a que chegou internamente a 14 de Junho de 2023,
um sem-número de alterações que se considerarão em apontamento posterior).
