Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais têm passado a defender uma pausa no avanço da inteligência artificial (IA) para tornar seu desenvolvimento mais seguro.

Dario Amodei, CEO da Anthropic, pediu que as empresas moderem o ritmo de avanço das capacidades de seus modelos diante das preocupações com o uso indevido da IA. Em artigo publicado em 12 de setembro, ele expressou preocupação com a possibilidade de a IA dominar toda a internet em 6 a 12 meses, a menos que seja controlada.

Sam Altman, CEO da OpenAI, concordou com a necessidade de marcar um ritmo para a fronteira da IA. Ele anunciou que a empresa estava desacelerando o desenvolvimento de seus modelos de IA enquanto reformulava seus sistemas de pesquisa e treinamento após um incidente envolvendo um agente em teste.

Esses comentários refletem uma crescente preocupação sobre os riscos associados à IA e a necessidade de estabelecer regras e padrões de segurança internacionais.