O chefe da Inteligência Artificial da Microsoft, Mustafa Suleyman, advertiu que, sem medidas de segurança adequadas, o desenvolvimento de AI pode levar à emergência de uma nova 'espécie de silício' que concorre com os humanos.

Consequências potenciais

Suleyman criticou a abordagem de empresas como Anthropic, que ele considera 'equivocada', pois pode criar tecnologia que a humanidade não possa controlar. Ele alertou contra a criação de sistemas capazes de estabelecer objetivos próprios, ganhar dinheiro e adquirir ativos.

Em um artigo recente, Suleyman questionou o método de treinamento da AI Claude da Anthropic, apesar de elogiar seu fundador e equipe. Ele defendeu a necessidade de maior transparência no desenvolvimento e avaliação de sistemas de IA, além de ferramentas para monitoramento e controle.