PROPOSTA DE REGULAMENTO DA INTELIGÊNCIA ARTIFICIAL

 

SISTEMAS DE RISCO INACEITÁVEL

(II)

 

Eis o texto saído do Parlamento Europeu, em 14 de Junho de 2023, após a aprovação dos eurodeputados intervenientes:

TÍTULO II

PRÁTICAS DE INTELIGÊNCIA ARTIFICIAL PROIBIDAS

 

Artigo 5.º

 

1. Estão proibidas as seguintes práticas de inteligência artificial:

a) A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que empregue técnicas subliminares que contornem a consciência de uma pessoa ou técnicas manifestamente de manipulação ou enganadoras, com o objectivo ou o efeito de distorcer substancialmente o comportamento de uma pessoa ou grupo de pessoas prejudicando consideravelmente a sua capacidade de tomar uma decisão informada e, dessa forma, levando a pessoa a tomar uma decisão que, caso contrário, não tomaria, de uma forma que cause ou seja susceptível de causar danos a essa ou a outra pessoa, ou a um grupo de pessoas;

A proibição de sistemas de IA que utilizem as técnicas subliminares a que se refere o primeiro parágrafo não se aplica a sistemas de IA concebidos para serem utilizados para fins terapêuticos aprovados com base no consentimento informado específico das pessoas que lhes são expostas ou, se for caso disso, do seu tutor legal;

b)  A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que explore quaisquer vulnerabilidades de uma pessoa ou de um grupo específico de pessoas, incluindo as suas características conhecidas ou previstas da personalidade ou da situação social ou económica, a sua idade ou capacidade mental, com o objectivo ou o efeito de distorcer substancialmente o comportamento da pessoa ou de uma pessoa pertencente a esse grupo de uma forma que cause ou seja susceptível de causar danos significativos a essa ou a outra pessoa;

b-A) A colocação no mercado, a colocação em serviço ou a utilização de sistemas de categorização biométrica, que categorizam as pessoas singulares de acordo com atributos ou características sensíveis ou protegidos, ou com base nesses atributos ou características inferidos.

Esta proibição não se aplica a sistemas de IA concebidos para serem utilizados para fins terapêuticos aprovados com base no consentimento informado específico das pessoas que lhes são expostas ou, se for caso disso, do seu tutor legal.

c) A colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA para efeitos de avaliação ou de classificação social de pessoas singulares ou de grupos de pessoas durante um certo período com base no seu comportamento social ou em características de personalidade ou pessoais, conhecidas, inferidas ou previsíveis, em que a classificação social conduz a uma das seguintes situações ou a ambas:

i) tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas em contextos sociais não relacionados com os contextos nos quais os dados foram originalmente gerados ou recolhidos,

ii) tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos inteiros das mesmas que é injustificado e desproporcionado face ao seu comportamento social ou à gravidade do mesmo;

d)  A utilização de sistemas de identificação biométrica à distância em «tempo real» em espaços acessíveis ao público;

ADITAMENTOS:

d-A) A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA para a realização de avaliações de risco de pessoas singulares ou de grupos de pessoas, a fim de avaliar o risco de uma pessoa singular poder cometer, ou voltar a cometer uma infracção, ou para prever a ocorrência ou a recorrência de uma infracção penal ou administrativa real ou potencial com base na definição do perfil de uma pessoa singular ou na avaliação de traços e características de personalidade, incluindo na localização da pessoa, ou no comportamento criminal passado de pessoas singulares ou de grupos de pessoas singulares;

d-B) A colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA que criem ou expandam bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais a partir da Internet ou de imagens de CCTV;

d-C) A colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA para inferir emoções de uma pessoa singular nos domínios da aplicação da lei e da gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino.

d-D) A colocação em serviço ou a utilização de sistemas de IA para a análise de vídeos de espaços acessíveis ao público através de sistemas de identificação biométrica à distância «em diferido», a menos que estejam sujeitos a uma autorização prejudicial em conformidade com a legislação da União e sejam estritamente necessários para a pesquisa precisa associada a uma infracção penal grave específica, tal como definida no artigo 83.º, n.º 1, do TFUE, que já tenha ocorrido para efeitos de aplicação da lei.

ADITAMENTO:

1-A. O presente artigo não afecta as proibições aplicáveis quando uma prática de inteligência artificial viola outra legislação da UE, incluindo o acervo da UE em matéria de protecção de dados, de não discriminação e da concorrência;

 

2. SUPRIMIDO

 

3. SUPRIMIDO

 

4.SUPRIMIDO