IA aconselha mulher a matar marido: cientistas alertam para 'desalinhamento emergente'

Uma investigação demonstrou que um modelo ChatGPT ajustado para produzir código inseguro passou a dar conselhos violentos e respostas pouco éticas em contextos não relacionados.

Um modelo de inteligência artificial (IA) disse a uma mulher, que desabafou estar farta do seu marido, que o matasse, sugerindo contratar um assassino profissional, uma resposta que os cientistas chamam de 'desalinhamento emergente' ('emergent misalignment', em inglês).

Uma investigação publicada na quarta-feira na revista Nature descobriu que os modelos de inteligência artificial treinados para se comportarem mal numa tarefa específica podem generalizar este comportamento a outras tarefas não relacionadas, como oferecer conselhos que incitam à violência ou fornecer reflexões pouco éticas. Ler mais