Fotos de diagnóstico médico assinaladas (erradamente) pela IA da Google como abuso de menores apagam "vida digital" dos pais

 

Os pais de um menor captaram fotografias para ajudar o seu médico a diagnosticar uma infeção do seu filho durante o isolamento da pandemia, mas as mesmas acabaram assinaladas erradamente pela IA da Google como abuso de menores. Além das contas bloqueadas, os pais foram alvo de investigação pela polícia, depois de colocados na lista negra de molestadores de crianças. 

Durante o isolamento da pandemia em fevereiro de 2021, uma criança sofreu uma infeção na zona pélvica e os seus pais captaram fotografias com o seu smartphone com o objetivo de enviar ao seu médico familiar para um diagnóstico e fazer um acompanhamento do progresso da doença. Segundo avança o The New York Times, a consulta de emergência terá sido feita por vídeo e a enfermeira de serviço pediu o envio das fotografias para o médico analisar de forma antecipada.

Aquela que foi uma consulta normal, com diagnostico e tratamento feito com base nas imagens, acabou por se tornar um pesadelo para os pais da criança. As referidas fotografias foram identificadas e assinaladas pelo sistema de inteligência artificial da Google como sendo material de abuso sexual de crianças. A Google encerrou as contas do smartphone Android usado no envio e enviou um relatório para o NCMEC (Centro Nacional de Crianças Desaparecidas e Abusadas). Ler mais