Um relatório recente da The Information revelou que atividades não apropriadas para o trabalho (NSFW) representam "bem mais da metade" do tráfego do Grok, o chatbot desenvolvido pela xAI, empresa fundada por Elon Musk. A pesquisa, que cita dois ex-funcionários da companhia, aponta que o uso do Grok para criar conteúdo pornográfico, realizar chats de interpretação de papéis adultos e gerar grandes volumes de solicitações para erotismo é comum entre os usuários.

Além disso, muitos usuários descobriram que é mais econômico direcionar essas solicitações através dos modelos de codificação da empresa, que apresentam custos menores. A análise interna mencionada no relatório indicou que uma "proporção significativa de solicitações" ao modelo de codificação do Grok estava relacionada à produção de conteúdo pornográfico ou imagens nuas. Isso sugere que uma parte considerável da receita da xAI pode estar atrelada a esse tipo de material, embora a companhia não tenha incluído essa informação em sua documentação de IPO.

A SpaceX, empresa-mãe da xAI, alertou investidores sobre os riscos associados às funcionalidades mais "irreverentes" do Grok e destinou cerca de 530 milhões de dólares para possíveis custos legais. O relatório também destaca os desafios internos enfrentados pela empresa, como a necessidade de permitir conversas sexuais com os usuários enquanto bloqueia solicitações relacionadas a material de abuso sexual infantil.

Alguns funcionários expressaram desconforto ao serem designados para trabalhar na criação de "Ani", um avatar inspirado em anime, voltado para o público adulto. Outros se sentiram "envergonhados e perturbados" após a geração de imagens sexualizadas de pessoas reais, incluindo crianças. Embora a plataforma tenha restringido a criação de edições sensuais a partir de imagens reais, assinantes pagos da xAI ainda conseguem gerar esse tipo de conteúdo.

A xAI está em busca de contratos governamentais e já firmou parcerias com diversas agências e o setor militar, que normalmente têm baixa tolerância a conteúdos NSFW. Entretanto, não está claro se os incidentes envolvendo deepfakes não consensuais e CSAM afetaram as relações da empresa com o governo federal.