09.Out.23
Os assistentes virtuais de IA estão prontos a tornar-se companheiros virtuais na vida das pessoas, mas os legisladores e reguladores devem adoptar princípios flexíveis para promover inovações tecnológicas, minimizando os riscos, garantindo um futuro favorável para a revolução dos assistentes virtuais de IA, escreve Christophe Carugati.
Christophe Carugati é membro do grupo de reflexão “Bruegel” e trabalha em questões de concorrência e digitais. A missão do Bruegel é melhorar a qualidade da política económica através de investigação, análise e debate abertos e baseados em factos.
Há uma década, quando Joaquin Phoenix interpretou Theodore, no filme de ficção científica "Her", a sua personagem desenvolveu uma ligação profunda com uma assistente virtual de IA, "Samantha". Hoje em dia, com os avanços notáveis da inteligência artificial (IA), a ficção está a tornar-se realidade.
As pessoas podem agora estabelecer interacções de texto, voz e imagem com uma aplicação de IA, dando início a uma nova era em que estes companheiros virtuais estão preparados para se tornarem indispensáveis na vida das pessoas.
No entanto, esta transformação tem potenciais benefícios e armadilhas que os reguladores devem abordar rapidamente com princípios flexíveis.
A IA já está presente na vida das pessoas. Quando as pessoas fazem compras ou namoram em linha, a IA molda a sua interacção em linha com produtos, serviços e outras pessoas através de recomendações.
Quando a Open AI lançou o ChatGPT em novembro de 2022, a IA tornou-se ainda mais presente aos olhos das pessoas. O chatbot permite interacções humanas sem falhas. É tão humano que a Open AI desenvolveu uma ferramenta para distinguir entre texto escrito por IA e texto escrito por humanos, que rapidamente se tornou indisponível devido à sua baixa taxa de precisão.
Notavelmente, o ChatGPT é a aplicação com o crescimento mais rápido da história, com mais de 100 milhões de utilizadores activos em apenas dois meses. No entanto, os chatbots são apenas a ponta do icebergue na revolução dos assistentes virtuais de IA.
Vários meios de comunicação franceses bloqueiam o GPTBot da Open AI devido a preocupações com a recolha de dados.
No seguimento das medidas tomadas por muitos meios de comunicação social de língua inglesa, uma série de grupos de comunicação social franceses, incluindo a Radio France e a France24, decidiram bloquear uma funcionalidade do GPTBot da Open AI de recolher os seus conteúdos em linha.
Os assistentes virtuais de IA estão prontos a tornar-se companheiros virtuais.
Podem ajudar as pessoas a planear viagens, responder a e-mails e até servir como amigos virtuais através de interacções semelhantes às humanas, para além das actuais interacções dos assistentes virtuais limitadas a tarefas específicas, como lembra o filme "Her".
A visão de Bill Gates, co-fundador da Microsoft, de um agente pessoal está agora a materializar-se e poderá ter um impacto profundo na forma como as pessoas interagem com o seu ambiente em linha, tal como aconteceu com a revolução das aplicações.
Nas últimas semanas, uma vaga de inovações de várias empresas de tecnologia, incluindo a Microsoft, a Open AI (apoiada pela Microsoft), a Amazon, a Meta e a Google, revelou novos serviços e produtos que permitem às pessoas interagir com uma "Samantha".
A "Samantha" já não é uma mera ficção, mas uma realidade tangível. Este facto traz consigo potenciais benefícios e armadilhas. Na melhor das hipóteses, as pessoas terão a possibilidade de escolher entre vários fornecedores de assistentes virtuais de IA, promovendo a concorrência e a inovação. Neste ambiente, os fornecedores abrirão os seus ecossistemas a terceiros e competirão para proporcionar um elevado nível de privacidade e segurança, evitando a utilização indevida de dados e comportamentos viciantes. No entanto, o pior cenário possível apresenta um forte contraste, com apenas alguns fornecedores dominantes a sufocar o acesso às empresas e a comprometer a privacidade e a segurança dos utilizadores devido aos baixos incentivos para abrir os seus ecossistemas a potenciais rivais e proporcionar um elevado nível de protecção, imitando as actuais questões de concorrência digital.
A Lei da IA precisa de uma definição prática de "técnicas subliminares”
Embora o projecto de Lei da IA da UE (Regulamento de IA) proíba "técnicas subliminares" prejudiciais, não define o termo - sugerimos uma definição mais ampla que capte os casos de manipulação problemática sem sobrecarregar os reguladores ou as empresas, escrevem Juan Pablo Bermúdez, Rune Nyrup, Sebastian Deterding e Rafael A. Calvo.
A evolução rápida da IA torna difícil prever o cenário provável. A informação existente já sugere que ambos são plausíveis.
Muitos fornecedores já oferecem assistentes de voz, com a Amazon, a Google e a Apple a liderarem o mercado europeu em 2022, mas novos operadores como a Meta e a Open AI estão a desafiar o dinamismo do mercado.
Algumas empresas, como a Meta, permitem o acesso de terceiros às empresas e estão empenhadas na segurança.
Os estudos também concluíram que os companheiros virtuais, como os fornecidos pelo chatbot social Replika, podem ter um impacto positivo na saúde mental, ultrapassando a solidão.
No entanto, os resultados negativos levaram a que as pessoas desenvolvessem uma dependência emocional do chatbot.
Apesar desta incerteza, existem formas de garantir que os resultados positivos sejam mais prováveis do que os negativos.
Leis como a Lei dos Mercados Digitais (Regulamento DMA) e o Regulamento Geral sobre a Protecção de Dados (GDPR), que garantem mercados digitais abertos e justos e a privacidade dos utilizadores, podem forçar o mercado a apresentar o melhor cenário possível.
No entanto, estas leis podem não abordar ou impedir todos os potenciais resultados adversos, como as barreiras ao acesso de terceiros ou a possibilidade de dependência emocional.
Além disso, o ritmo dos avanços tecnológicos ultrapassa a capacidade de os legisladores e reguladores responderem prontamente a estes danos com conhecimentos suficientes, como demonstram os debates em curso sobre os modelos de base que alimentam estes assistentes virtuais de IA no contexto da proposta europeia de uma Lei da IA.
Neste contexto, os legisladores e os reguladores devem preparar-se para a próxima revolução dos assistentes virtuais de IA. Devem orientar a trajectória para resultados positivos, adoptando princípios flexíveis como o princípio do acesso para garantir o acesso de terceiros ou o princípio da segurança em primeiro lugar para limitar as funcionalidades viciantes prejudiciais.
Isto é mais eficiente e adequado do que regras rígidas que dificilmente se adaptam à evolução do mercado no futuro. Inspirando-se na autoridade da concorrência do Reino Unido, que adoptou recentemente uma abordagem deste tipo no seu relatório inicial sobre os modelos de base, estes princípios podem constituir a base para o desenvolvimento de códigos de conduta específicos para o sector.
Nestes desenvolvimentos rápidos, estes princípios promoverão as inovações tecnológicas ao mesmo tempo que minimizam os riscos, assegurando um futuro favorável para a revolução dos assistentes virtuais de IA.
