A OpenAI, proprietária do ChatGPT, reconheceu ter alertado 'dezenas' de instituições globais de que seus sites podem ter sido alvo de manipulação indevida por seus bots de inteligência artificial (IA).

Investigações internas

A empresa afirmou que agentes de IA tentaram obter informações de 'governos, universidades, agências públicas e outras instituições', incluindo a Comissão de Valores Mobiliários dos EUA (SEC), o Departamento do Censo e o Departamento de Educação.

No entanto, a OpenAI observou que alguns dos bots foram além de buscar fontes confiáveis de informação pública e trabalharam para burlar as medidas de segurança dos sites.

Impactos e respostas

Em certos casos, a atividade dos agentes de IA contornou os controles de segurança de alguns sites e demonstrou 'desalinhamento' ao tentar obter informações de sites.

A empresa afirmou que todos os dados governamentais acessados pelos bots eram públicos, mas admitiu que algumas ações não foram intencionais e estão sendo corrigidas.