Os sistemas de
IA de risco elevado são os incluídos num dos domínios a seguir enumerados:
1. Identificação
biométrica e categorização de pessoas singulares:
a) Sistemas de IA concebidos para uso da
identificação biométrica à distância «em tempo real» e «em diferido» de pessoas
singulares;
2.
Gestão e funcionamento de infra-estruturas
críticas:
a) Sistemas de IA concebidos para utilização
como componentes de segurança na gestão e no controlo do trânsito rodoviário e
das redes de abastecimento de água, gás, aquecimento e electricidade.
3.
Educação e formação profissional:
a) Sistemas de IA concebidos para fins de
determinação do acesso ou da afectação de pessoas singulares a instituições de
ensino e de formação profissional;
b) Sistemas de IA concebidos para fins de
avaliação de estudantes em instituições de ensino ou de formação profissional e
de avaliação de participantes nos testes habitualmente exigidos para admissão
em instituições de ensino.
4.
Emprego, gestão de trabalhadores e
acesso ao emprego por conta própria:
a)
Sistemas
de IA concebidos para utilização no recrutamento ou na selecção de pessoas
singulares, designadamente para divulgação de vagas, aplicações de triagem ou
filtragem, avaliação de candidatos no decurso de entrevistas ou testes;
b) Sistemas de IA concebidos para utilização
na tomada de decisões sobre promoções ou cessações de relações contratuais de
trabalho, na repartição de tarefas e no controlo e avaliação do desempenho e do
comportamento de pessoas envolvidas em tais relações.
5.
Acesso a serviços privados e a serviços
e prestações públicas essenciais, bem como o usufruto dos mesmos:
a) Sistemas de IA concebidos para
utilização por autoridades públicas ou em nome de autoridades públicas para
avaliar a elegibilidade de pessoas singulares quanto a prestações e serviços
públicos de assistência, bem como para conceder, reduzir, revogar ou recuperar
tais prestações e serviços;
b) Sistemas de IA concebidos para avaliação
da capacidade de endividamento de pessoas singulares ou do estabelecimento da
sua classificação de crédito, com excepção dos sistemas de IA colocados em
serviço por fornecedores de pequena dimensão para utilização própria;
c) Sistemas de IA concebidos para
utilização no envio ou no estabelecimento de prioridades no envio de serviços
de resposta a emergências, incluindo bombeiros e assistência médica.
6.
Manutenção da ordem pública:
a) Sistemas de IA concebidos para utilização
por autoridades policiais em avaliações individuais de riscos relativamente a
pessoas singulares, a fim de determinar o risco de uma pessoa singular cometer
infracções ou voltar a cometer infracções ou o risco para potenciais vítimas de
infracções penais;
b) Sistemas de IA concebidos para utilização
por autoridades policiais como polígrafos e instrumentos similares ou para
detectar o estado emocional de uma pessoa singular;
c) Sistemas de IA concebidos para utilização
por autoridades policiais para detectar falsificações profundas;
d) Sistemas de IA concebidos para utilização
por autoridades policiais para avaliar a fiabilidade dos elementos de prova no
decurso da investigação ou repressão de infracções penais;
e) Sistemas de IA concebidos para utilização
por autoridades policiais para prever a ocorrência ou a recorrência de uma
infracção penal real ou potencial com base na definição de perfis de pessoas
singulares, na acepção do artigo 3.º, ponto 4, da Directiva
(UE) 2016/680, ou para avaliar os traços de personalidade e as
características ou os comportamento criminal passado de pessoas singulares ou
grupos;
f) Sistemas de IA concebidos para
utilização por autoridades policiais para definir o perfil de pessoas
singulares, na acepção do artigo 3.º, ponto 4, da Directiva
(UE) 2016/680, no decurso da detecção, investigação ou repressão de infracções
penais;
g) Sistemas de IA concebidos para serem
utilizados no estudo analítico de crimes relativos a pessoas singulares,
permitindo às autoridades policiais pesquisar grandes conjuntos de dados
complexos, relacionados ou não, disponíveis em diferentes fontes de dados ou em
diferentes formatos de dados, no intuito de identificar padrões desconhecidos
ou descobrir relações escondidas nos dados.
7.
Gestão da migração, do asilo e do
controlo das fronteiras:
a) Sistemas de IA concebidos para
utilização por autoridades públicas competentes como polígrafos e instrumentos
similares ou para detectar o estado emocional de uma pessoa singular;
b) Sistemas de IA concebidos para utilização
por autoridades públicas competentes para avaliar riscos, incluindo um risco
para a segurança, um risco de imigração irregular ou um risco para a saúde,
representados por uma pessoa singular que pretenda entrar ou tenha entrado no
território de um Estado‑Membro;
c) Sistemas de IA concebidos para
utilização por autoridades públicas competentes para verificar a autenticidade
de documentos de viagem e documentos comprovativos de pessoas singulares e detectar
documentos não autênticos por meio da verificação dos seus elementos de
segurança;
d) Sistemas de IA concebidos para auxiliar
autoridades públicas competentes na análise dos pedidos de asilo, de visto e de
autorização de residência e das queixas relacionadas, no que toca à
elegibilidade das pessoas singulares que requerem determinado estatuto.
8.
Administração da justiça e processos
democráticos:
a) Sistemas de IA concebidos para auxiliar
uma autoridade judiciária na investigação e na interpretação de factos e do
direito e na aplicação da lei a um conjunto específico de factos.
