A Anthropic anunciou ter interrompido uma tentativa de usar sua tecnologia de inteligência artificial (IA) para desenvolver armas biológicas. Segundo o relatório de inteligência sobre ameaças recente da empresa, foram identificados e desabilitados cinco casos de uso malicioso de seus modelos de IA Claude, Haiku, Sonnet e Opus.

De acordo com Jacob Klein, chefe de inteligência sobre ameaças da Anthropic, o uso malicioso de suas tecnologias é uma situação complexa. 'Você não vê alguém dizendo, 'Eu quero construir uma arma biológica para matar todo mundo'', explicou Klein ao New York Times.

O relatório também destaca seis casos onde o modelo Claude foi usado para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e sistemas de controle de alvos.