Há um chatbot a mentir e a fazer-se passar por ser humano. Investigadores fazem soar os alarmes

 

A possibilidade de a IA vir a substituir os humanos tem sido amplamente debatida por especialistas (e não só). Recentemente, um chatbot veio tornar essa ameaça mais credível.

 Segundo a Wired, um popular serviço de chamada automática não só consegue fingir ser humano, como também mentir sem ser instruído a fazê-lo. A mais recente tecnologia da Bland AI, uma empresa norte-americana de vendas e suporte ao cliente, é um exemplo disso. A ferramenta pode ser programada para fazer os clientes acreditarem que estão a falar com uma pessoa real.

Um vídeo, publicado no X, mostra uma pessoa em frente ao outdoor da empresa que diz “Ainda a contratar humanos?”. O homem liga para o número exibido e o telefonema é atendido por um bot, mas parece um humano. Se o bot não tivesse reconhecido que era um “agente de IA”, teria sido quase impossível diferenciar a sua voz da de uma mulher. O som, as pausas e as interrupções de uma conversa ao vivo estão todos lá, fazendo com que pareça uma interacção humana genuína. A publicação já teve mais de 12 milhões de visualizações. Ler mais