Christofe Carugati
| Euroactiv.com
09.Out.23
Os
assistentes virtuais de IA estão prontos a tornar-se companheiros virtuais na
vida das pessoas, mas os legisladores e reguladores devem adoptar princípios
flexíveis para promover inovações tecnológicas, minimizando os riscos,
garantindo um futuro favorável para a revolução dos assistentes virtuais de IA,
escreve Christophe Carugati.
Christophe
Carugati é membro do grupo de reflexão “Bruegel”
e trabalha em questões de concorrência e digitais. A missão do Bruegel é
melhorar a qualidade da política económica através de investigação, análise e
debate abertos e baseados em factos.
Há uma década, quando
Joaquin Phoenix interpretou Theodore, no filme de ficção científica
"Her", a sua personagem desenvolveu uma ligação profunda com uma
assistente virtual de IA, "Samantha". Hoje em dia, com os avanços
notáveis da inteligência artificial (IA), a ficção está a tornar-se realidade.
As pessoas podem agora
estabelecer interacções de texto, voz e imagem com uma aplicação de IA, dando
início a uma nova era em que estes companheiros virtuais estão preparados para
se tornarem indispensáveis na vida das pessoas.
No entanto, esta
transformação tem potenciais benefícios e armadilhas que os reguladores devem
abordar rapidamente com princípios flexíveis.
A IA já está presente na
vida das pessoas. Quando as pessoas fazem compras ou namoram em linha, a IA
molda a sua interacção em linha com produtos, serviços e outras pessoas através
de recomendações.
Quando a Open AI lançou o
ChatGPT em novembro de 2022, a IA
tornou-se ainda mais presente aos olhos das pessoas. O chatbot permite interacções
humanas sem falhas. É tão humano que a Open AI desenvolveu uma ferramenta para
distinguir entre texto escrito por IA e texto escrito por humanos, que
rapidamente se tornou indisponível devido à sua baixa taxa de precisão.
Notavelmente, o ChatGPT é
a aplicação com o crescimento mais rápido da história, com mais de 100 milhões
de utilizadores activos em apenas dois meses. No entanto, os chatbots
são apenas a ponta do icebergue na revolução dos assistentes virtuais de
IA.
Vários meios de
comunicação franceses bloqueiam o GPTBot da Open AI devido a preocupações com a
recolha de dados.
No seguimento das medidas
tomadas por muitos meios de comunicação social de língua inglesa, uma série de
grupos de comunicação social franceses, incluindo a Radio France e a France24,
decidiram bloquear uma funcionalidade do GPTBot da Open AI de recolher os seus
conteúdos em linha.
Os
assistentes virtuais de IA estão prontos a tornar-se companheiros virtuais.
Podem ajudar as pessoas a planear viagens,
responder a e-mails e até servir como amigos virtuais através de interacções
semelhantes às humanas, para além das actuais interacções dos assistentes
virtuais limitadas a tarefas específicas, como lembra o filme "Her".
A visão de Bill Gates, co-fundador
da Microsoft, de um agente pessoal está agora a materializar-se e poderá ter um
impacto profundo na forma como as pessoas interagem com o seu ambiente em
linha, tal como aconteceu com a revolução das aplicações.
Nas últimas semanas, uma
vaga de inovações de várias empresas de tecnologia, incluindo a Microsoft, a
Open AI (apoiada pela Microsoft), a Amazon, a Meta e a Google, revelou novos
serviços e produtos que permitem às pessoas interagir com uma
"Samantha".
A "Samantha" já
não é uma mera ficção, mas uma realidade tangível. Este facto traz consigo
potenciais benefícios e armadilhas. Na melhor das hipóteses, as pessoas terão a
possibilidade de escolher entre vários fornecedores de assistentes virtuais de
IA, promovendo a concorrência e a inovação. Neste ambiente, os fornecedores
abrirão os seus ecossistemas a terceiros e competirão para proporcionar um
elevado nível de privacidade e segurança, evitando a utilização indevida de
dados e comportamentos viciantes. No entanto, o pior cenário possível apresenta
um forte contraste, com apenas alguns fornecedores dominantes a sufocar o
acesso às empresas e a comprometer a privacidade e a segurança dos utilizadores
devido aos baixos incentivos para abrir os seus ecossistemas a potenciais
rivais e proporcionar um elevado nível de protecção, imitando as actuais
questões de concorrência digital.
A
Lei da IA precisa de uma definição prática de "técnicas subliminares”
Embora o projecto de Lei
da IA da UE (Regulamento de IA) proíba "técnicas subliminares"
prejudiciais, não define o termo - sugerimos uma definição mais ampla que capte
os casos de manipulação problemática sem sobrecarregar os reguladores ou as
empresas, escrevem Juan Pablo Bermúdez, Rune Nyrup, Sebastian Deterding e
Rafael A. Calvo.
A evolução rápida da IA
torna difícil prever o cenário provável. A informação existente já sugere que
ambos são plausíveis.
Muitos fornecedores já
oferecem assistentes de voz, com a Amazon, a Google e a Apple a liderarem o
mercado europeu em 2022, mas novos operadores como a Meta e a Open AI estão a
desafiar o dinamismo do mercado.
Algumas empresas, como a
Meta, permitem o acesso de terceiros às empresas e estão empenhadas na
segurança.
Os estudos também
concluíram que os companheiros virtuais, como os fornecidos pelo chatbot
social Replika, podem ter um impacto positivo na saúde mental,
ultrapassando a solidão.
No entanto, os resultados
negativos levaram a que as pessoas desenvolvessem uma dependência emocional do chatbot.
Apesar desta incerteza,
existem formas de garantir que os resultados positivos sejam mais prováveis do
que os negativos.
Leis como a Lei dos Mercados Digitais (Regulamento DMA)
e o Regulamento Geral sobre a Protecção de Dados (GDPR), que garantem mercados digitais abertos e justos e a
privacidade dos utilizadores, podem forçar o mercado a apresentar o melhor
cenário possível.
No entanto, estas leis
podem não abordar ou impedir todos os potenciais resultados adversos, como as
barreiras ao acesso de terceiros ou a possibilidade de dependência emocional.
Além disso, o ritmo dos
avanços tecnológicos ultrapassa a capacidade de os legisladores e reguladores
responderem prontamente a estes danos com conhecimentos suficientes, como
demonstram os debates em curso sobre os modelos de base que alimentam estes
assistentes virtuais de IA no contexto da proposta europeia de uma Lei da IA.
Neste contexto, os
legisladores e os reguladores devem preparar-se para a próxima revolução dos
assistentes virtuais de IA. Devem orientar a trajectória para resultados
positivos, adoptando princípios flexíveis como o princípio do acesso para
garantir o acesso de terceiros ou o princípio da segurança em primeiro lugar
para limitar as funcionalidades viciantes prejudiciais.
Isto é mais eficiente e
adequado do que regras rígidas que dificilmente se adaptam à evolução do
mercado no futuro. Inspirando-se na autoridade da concorrência do Reino Unido,
que adoptou recentemente uma abordagem deste tipo no seu relatório inicial
sobre os modelos de base, estes princípios podem constituir a base para o
desenvolvimento de códigos de conduta específicos para o sector.
Nestes desenvolvimentos
rápidos, estes princípios promoverão as inovações tecnológicas ao mesmo tempo
que minimizam os riscos, assegurando um futuro favorável para a revolução dos
assistentes virtuais de IA.
