O tema escolhido foi o do Regime Geral da Inteligência Artificial que, em primeira leitura acaba de ser aprovado (13 de Março p.º. p.º), em co-decisão. pelo Parlamento Europeu e Conselho da União Europeia.
O prelector recortou o risco como o alfa e o ómega da construção a que se procedeu e sua graduação:
§ Risco Mínimo
§ Risco Limitado
§ Risco Elevado
§ Risco Inaceitável e, por isso, Proibido
E enunciou as categorias de Riscos Inaceitáveis, que o Regulamento proíbe, a saber, os que enformem ou conformem sistemas que:
Empreguem técnicas subliminares que contornem a consciência de uma pessoa ou que a manipulem manifestamente ou a ludibriem, com o objectivo ou o efeito de distorcer substancialmente o seu comportamento ou o de um grupo, prejudicando de forma considerável a sua capacidade de decisão;
Explorem vulnerabilidades de uma pessoa ou de um grupo específico devido à idade, incapacidade ou situação sócio-económica, com o fito de distorcer substancialmente o seu comportamento ou de pessoa pertencente ao grupo de tal forma que cause ou seja razoavelmente susceptível de causar-lhe significativos danos;
Avaliem ou classifiquem pessoas naturais ou grupos durante um certo período com base no seu comportamento social ou em características de personalidade, conhecidas, inferidas ou previsíveis, em que tal classificação social conduza a tratamento prejudicial ou desfavorável
o em contextos sociais não relacionados com aqueles em que os dados foram originalmente gerados ou recolhidos;
o que seja injustificado ou desproporcionado face ao seu comportamento social ou à sua gravidade;
Visem uma finalidade específica ou se adoptem para avaliação de risco de pessoas naturais a fim de aferir ou prever a probabilidade de virem a cometer uma infracção penal, com base exclusivamente numa definição de perfis ou na avaliação dos seus traços e características de personalidade (o que não se aplica aos sistemas que se destinem a apoiar a avaliação do envolvimento de uma pessoa em actividade criminosa, que se baseie já em factos objectivos e verificáveis, directamente ligados a tal);
Criam ou expandem bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais a partir da Internet ou de imagens de televisão em circuito fechado;
Se destinem a inferir emoções de uma pessoa natural no local de trabalho e nas instituições de ensino, excepto se se destinar a ser instalado ou introduzido no mercado por razões médicas ou de segurança;
Visem a categorização biométrica para classificação individual de pessoas naturais com base em dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida ou orientação sexual (tal proibição não abrange rotulagens nem filtragens de conjuntos de dados biométricos legalmente adquiridos, tais como imagens, com base em dados biométricos ou na categorização de dados biométricos no domínio da manutenção da ordem pública);
Se destinem a identificação biométrica à distância em "tempo real" em espaços acessíveis ao público para efeitos de manutenção da ordem pública, a menos e na medida em que tal utilização seja estritamente necessária para um dos seguintes fins:
o busca selectiva de vítimas específicas de rapto, tráfico ou exploração sexual de seres humanos, bem como a de pessoas desaparecidas;
o prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança física de pessoas singulares ou de uma ameaça real e actual ou real e previsível de um ataque terrorista;
o a localização ou identificação de uma pessoa suspeita de ter cometido uma infracção penal, para efeitos da realização de uma investigação criminal, instauração de acção penal ou execução de uma sanção penal por alguma das 16 infracções enunciadas em anexo e puníveis no Estado-membro de que se trate com pena ou medida de segurança privativa de liberdade de duração máxima não inferior a quatro anos.
E, noutro passo, os sistemas de Risco Elevado e seus exemplos, como segue:
o Certas infra-estruturas críticas, por exemplo, nos sectores do tráfego rodoviário e do abastecimento de água, gás, aquecimento e electricidade;
o Educação e formação profissional, por exemplo, para avaliar os resultados da aprendizagem, orientar o seu processo e acompanhar a fraude;
o Emprego, gestão dos trabalhadores e acesso ao trabalho por conta própria, por exemplo, para colocar anúncios de emprego específicos, analisar e filtrar candidaturas de emprego e avaliar candidatos;
o Acesso a serviços e benefícios públicos e privados essenciais (por exemplo, cuidados de saúde), avaliação da capacidade de endividamento de pessoas singulares e avaliação dos riscos e fixação de preços em relação a seguros de vida e de saúde;
o Certos sistemas usados nos domínios da aplicação da lei, do controlo das fronteiras, da administração da justiça e dos processos democráticos.
o Avaliação e classificação das chamadas de emergência;
o Identificação biométrica, categorização biométrica e reconhecimento de emoções (excepto as categorias proibidas);
o Os sistemas de recomendação de plataformas em linha de muito grande dimensão não estão incluídos, uma vez que já estão abrangidos pelo Reg.to 2022/2065, de 19.Out.22
o Sistemas de IA componentes da segurança de produtos ou eles mesmo como produtos na categoria de risco elevado
Exemplos de tais sistemas:
Máquinas, brinquedos, ascensores, aparelhos e sistemas de protecção destinados a ser utilizados em atmosferas potencialmente explosivas, equipamentos de rádio, equipamentos sob pressão, equipamentos para embarcações de recreio, instalações por cabo, aparelhos de combustão de combustíveis gasosos, dispositivos médicos e dispositivos médicos para diagnóstico in vitro.
Com base neste enunciado houve um intenso e interessante debate com os mestrandos de Passo Fundo, num aprofundamento das relações entre a Escola de Direito de Passo Fundo e o Centro de Estudos e Direito do Consumo de Coimbra que se formou adstrito à apDC.
Outras iniciativas se perspectivam já.
O nosso reconhecimento ao Prof. Rogério da Silva que, como sempre, nos prestigiou com a sua honrosa presença junto aos mestrandos daquela modelar Escola de Direito.
