O risco é o critério nuclear classificatório dos sistemas de Inteligência Artificial.
Quatro ordens de riscos se vislumbram:
• Inaceitável; • Elevado; • Mínimo; • Específico a reclamar transparência.
O risco inaceitável obriga a que se proíba toda a sorte de sistemas
que em tal se revêem porque violam direitos fundamentais na União
Europeia.
É o que o Parlamento Europeu faz, em regulamento aprovado quarta-feira última.
Riscos inaceitáveis e, por conseguinte, proibidos, os dos sistemas que:
• Empreguem técnicas subliminares que contornem a consciência de
uma pessoa ou que a manipulem manifestamente ou a ludibriem, com o
objectivo ou o efeito de distorcer substancialmente o seu comportamento
ou o de um grupo, prejudicando de forma considerável a sua capacidade
de decisão;
• Explorem vulnerabilidades de uma pessoa ou de um grupo específico
devido à idade, incapacidade ou situação sócio-económica, com o fito
de distorcer substancialmente o seu comportamento ou de pessoa
pertencente ao grupo de tal forma que cause ou seja razoavelmente
susceptível de causar-lhe significativos danos;
• Avaliem ou classifiquem pessoas naturais ou grupos durante um
certo período com base no seu comportamento social ou em características
de personalidade, conhecidas, inferidas ou previsíveis, em que tal
classificação social conduza a tratamento prejudicial ou desfavorável
– em contextos sociais não relacionados com aqueles em que os dados foram originalmente gerados ou recolhidos;
– que seja injustificado ou desproporcionado face ao seu comportamento social ou à sua gravidade;
• Visem uma finalidade específica ou se adoptem para avaliação de
risco de pessoas naturais a fim de aferir ou prever a probabilidade de
virem a cometer uma infracção penal, com base exclusivamente numa
definição de perfis ou na avaliação dos seus traços e características de
personalidade (o que não se aplica aos sistemas que se destinem a
apoiar a avaliação do envolvimento de uma pessoa em actividade
criminosa, que se baseie já em factos objectivos e verificáveis,
directamente ligados a tal);
• Criam ou expandem bases de dados de reconhecimento facial através
da recolha aleatória de imagens faciais a partir da Internet ou de
imagens de televisão em circuito fechado;
• Se destinem a inferir emoções de uma pessoa natural no local de
trabalho e nas instituições de ensino, excepto se se destinar a ser
instalado ou introduzido no mercado por razões médicas ou de segurança;
• Visem a categorização biométrica para classificação individual de
pessoas naturais com base em dados biométricos para deduzir ou inferir a
sua raça, opiniões políticas, filiação sindical, convicções religiosas
ou filosóficas, vida ou orientação sexual (tal proibição não abrange
rotulagens nem filtragens de conjuntos de dados biométricos legalmente
adquiridos, tais como imagens, com base em dados biométricos ou na
categorização de dados biométricos no domínio da manutenção da ordem
pública);
• Se destinem a identificação biométrica à distância em “tempo
real” em espaços acessíveis ao público para efeitos de manutenção da
ordem pública, a menos e na medida em que tal utilização seja
estritamente necessária para um dos seguintes fins:
– busca selectiva de vítimas específicas de rapto, tráfico ou
exploração sexual de seres humanos, bem como a de pessoas desaparecidas;
– prevenção de uma ameaça específica, substancial e iminente à vida
ou à segurança física de pessoas singulares ou de uma ameaça real e
actual ou real e previsível de um ataque terrorista;
• a localização ou identificação de uma pessoa suspeita de ter
cometido uma infracção penal, para efeitos da realização de uma
investigação criminal, instauração de acção penal ou execução de uma
sanção penal por alguma das 16 infracções enunciadas em anexo e puníveis
no Estado-membro de que se trate com pena ou medida de segurança
privativa de liberdade de duração máxima não inferior a quatro anos.
Um extenso documento (+ – 500 pp) com 180 considerandos
preambulares, contra os 89 da proposta original, e 113 artigos, que
importa agora analisar detidamente. Pelas implicações que também tem no
mercado de consumo, fortemente influenciado pelos sistemas que se vêm já
adoptando.