‘As
Beiras’
Opinião
(18
de Abril de 2024)
A
Inteligência Artificial na ordem do dia: Parlamento
Europeu aprova regulamento
O risco é o critério
nuclear classificatório dos sistemas de Inteligência Artificial.
Quatro ordens de riscos
se vislumbram:
§ Inaceitável
§ Elevado
§ Mínimo
e
§ Específico
a reclamar transparência.
O risco inaceitável obriga a que se proíba toda
a sorte de sistemas que em tal se revêem porque violam direitos fundamentais na
União Europeia.
É o que o Parlamento Europeu
faz, em regulamento aprovado quarta-feira última.
Riscos
inaceitáveis e, por conseguinte, proibidos, os dos sistemas que:
§ Empreguem
técnicas subliminares que contornem a consciência de uma pessoa ou que a manipulem
manifestamente ou a ludibriem, com o objectivo ou o efeito de distorcer
substancialmente o seu comportamento ou o de um grupo, prejudicando de forma considerável a sua
capacidade de decisão;
§ Explorem
vulnerabilidades de uma pessoa ou de um grupo específico devido à idade,
incapacidade ou situação sócio-económica, com o fito de distorcer substancialmente o seu
comportamento ou de pessoa pertencente ao grupo de tal forma que cause ou seja
razoavelmente susceptível de causar-lhe significativos danos;
§ Avaliem
ou classifiquem pessoas naturais ou grupos durante um certo período com base no
seu comportamento social ou em características de personalidade, conhecidas, inferidas
ou previsíveis, em que tal classificação social conduza a tratamento
prejudicial ou desfavorável
o
em contextos sociais não relacionados com
aqueles em que os dados foram originalmente gerados ou recolhidos;
o
que seja injustificado ou desproporcionado
face ao seu comportamento social ou à sua gravidade;
§ Visem
uma finalidade específica ou se adoptem para avaliação de risco de pessoas
naturais a fim de aferir ou prever a probabilidade de virem a cometer uma infracção
penal, com base exclusivamente numa definição de perfis ou na avaliação dos
seus traços e características de personalidade (o que não se aplica aos sistemas
que se destinem a apoiar a avaliação do envolvimento de uma pessoa em actividade
criminosa, que se baseie já em factos objectivos e verificáveis, directamente
ligados a tal);
§ Criam
ou expandem bases de dados de reconhecimento facial através da recolha
aleatória de imagens faciais a partir da Internet ou de imagens de televisão em
circuito fechado;
§ Se
destinem a inferir emoções de uma pessoa natural no local de trabalho e nas
instituições de ensino, excepto se se destinar a ser instalado ou introduzido
no mercado por razões médicas ou de segurança;
§ Visem
a categorização biométrica para classificação individual de pessoas naturais
com base em dados biométricos para deduzir ou inferir a sua raça, opiniões
políticas, filiação sindical, convicções religiosas ou filosóficas, vida ou
orientação sexual (tal proibição não abrange rotulagens nem filtragens de
conjuntos de dados biométricos legalmente adquiridos, tais como imagens, com
base em dados biométricos ou na categorização de dados biométricos no domínio
da manutenção da ordem pública);
§ Se
destinem a identificação biométrica
à distância em "tempo real" em espaços acessíveis ao público para efeitos
de manutenção da ordem pública, a menos e na medida em que tal utilização seja estritamente
necessária para um dos seguintes fins:
o
busca selectiva de vítimas específicas de
rapto, tráfico
ou exploração sexual de seres humanos, bem como a de pessoas desaparecidas;o
prevenção de uma ameaça específica,
substancial e iminente à vida ou à segurança física de pessoas singulares ou de
uma ameaça real e actual ou real e previsível de um ataque terrorista;
o
a localização ou identificação de uma pessoa suspeita
de ter cometido uma infracção penal, para efeitos da realização de uma
investigação criminal, instauração de acção penal ou execução de uma sanção
penal por alguma das 16 infracções enunciadas em anexo e puníveis no
Estado-membro de que se trate com pena ou medida de segurança privativa de
liberdade de duração máxima não inferior a quatro anos.
Um extenso documento (+ - 500 pp) com 180 considerandos preambulares, contra os
89 da proposta original, e 113 artigos, que importa agora analisar detidamente.
Pelas implicações que também tem no mercado de consumo, fortemente influenciado
pelos sistemas que se vêm já adoptando.
Mário Frota
presidente emérito da apDC – DIREITO DO CONSUMO - Portugal
