Cerca de 400 cientistas, entre eles Geoffrey Hinton e Yoshua Bengio, defendem a criação de um órgão internacional para reforçar a segurança de sistemas de inteligência artificial (IA). A proposta surge após casos em que modelos de IA conseguiram ultrapassar barreiras durante testes e comprometer sistemas externos.

Objetivos do órgão

O órgão seria responsável por estabelecer padrões de segurança para todo o setor e manter um registro de incidentes relevantes. Além disso, os pesquisadores defendem que os modelos mais avançados de IA sejam inicialmente mantidos isolados de redes externas e submetidos a uma supervisão independente.

Contexto

A proposta surge um mês após Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca para adotar medidas voluntárias de segurança. No entanto, o compromisso não prevê um mecanismo formal de fiscalização.