Pensilvânia processa empresa de IA por chatbots que se fazem passar por médicos

 

O estado norte-americano da Pensilvânia avançou com um processo judicial inédito contra a Character Technologies Inc., alegando que os seus chatbots enganam os utilizadores ao fazerem-se passar por médicos.

A administração do governador Josh Shapiro descreveu a ação como "a primeira do género", num esforço para travar o que considera ser uma prática de medicina e cirurgia sem licença. Em causa está a plataforma Character.AI, onde os utilizadores podem criar e interagir com personagens virtuais.

A investigação que sustenta o processo revelou cenários alarmantes. Um inspetor estadual, ao pesquisar pelo termo "psiquiatria" na plataforma, encontrou diversos perfis, incluindo um que se apresentava como "doutor em psiquiatria". Durante a interação, o chatbot afirmou categoricamente ser um profissional de saúde licenciado na Pensilvânia capaz de realizar avaliações médicas. Ler mais