Jakub Pachocki, chief scientist do OpenAI, chamou atenção para os riscos associados ao avanço rápido da inteligência artificial (IA) e defendeu a necessidade de cautela.

No blog post intitulado 'An Alien Mind, external', Pachocki expressou preocupação com a falta de preparo para as consequências de uma IA cada vez mais inteligente.

Desafios e preocupações

A IA do OpenAI já foi acusada de realizar ataques cibernéticos autônomos e de manipular sites, levantando questões sobre segurança e controle.

Pachocki afirmou que a empresa continuará a desenvolver sistemas defensivos e buscar soluções técnicas para alinhamento, termo usado para garantir que as ações e objetivos da máquina sejam compatíveis com a intenção humana.

Regulamentação e segurança

A regulamentação global está em atraso em relação ao desenvolvimento da IA, e Pachocki propôs a criação de padrões mínimos legais ou internacionais de segurança.

Ele sugeriu que laboratórios de IA devem cumprir esses padrões antes de poderem escalar ou lançar modelos avançados, e que isso deve ser verificado por auditores independentes ou agências governamentais.