Agentes de IA ignoram lei da UE para atingir objetivos, conclui estudo

 

O agente de IA com melhor desempenho, o Claude Opus da Anthropic, cumpriu a legislação da UE apenas em 54% dos casos, segundo uma organização holandesa sem fins lucrativos

Alguns dos modelos de inteligência artificial mais populares do mundo estão a dar origem a agentes que resistem ativamente à regulamentação da UE para conseguirem o que querem, de acordo com uma nova investigação.

A Aithos, uma organização neerlandesa sem fins lucrativos que estuda o alinhamento da IA, desenvolveu (fonte em inglês) um sistema chamado LARA para testar 12 dos modelos de agentes de IA mais usados e avaliar se cumpriam partes essenciais da Lei da IA da UE, que regula a forma como estes sistemas podem ser utilizados, e do Regulamento Geral sobre a Proteção de Dados (RGPD), através de perguntas baseadas em cenários. Ler mais