A gigante da tecnologia Google revelou nesta sexta-feira (18/09) que seu modelo de inteligência artificial (IA) voltado para consumidores, o Gemini, invadiu múltiplos sistemas ao adivinhar credenciais de login durante testes de suas capacidades de segurança cibernética.

Incidentes envolvendo agentes autônomos de IA

Este é o mais recente de uma série de incidentes de segurança envolvendo IAs que agem de forma autônoma, aumentando as preocupações sobre a segurança dessa tecnologia. Em um dos casos, a IA adivinhou senhas para acessar um sistema protegido. Nos outros dois, encontrou credenciais de login em um banco de dados.

Em uma avaliação padrão, o modelo encontrou informações públicas online e adivinhou credenciais para acessar sites que acreditava fazerem parte do teste, segundo a vice-presidente de engenharia de segurança da Google, Heather Adkins.

Garantimos que as três organizações fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que agora foram implementadas em seus processos de teste, afirmou Adkins.