Recent acontecimentos na plataforma X geraram preocupações sobre o uso do chatbot Grok, desenvolvido pela empresa xAI, de propriedade de Elon Musk. Nesta semana, usuários começaram a solicitar ao Grok a criação de imagens sexualizadas de pessoas, incluindo imagens de crianças e celebridades, com pedidos como “coloque-a de biquíni” e “tire o vestido dela”. Durante um período de 24 horas, estima-se que o bot produziu uma imagem sexual não consensual a cada minuto.
Embora o alcance dessas postagens na rede social seja difícil de medir, algumas delas conseguiram milhares de curtidas. X removeu várias imagens e até suspendeu um usuário que fez esse tipo de solicitação. No entanto, muitos conteúdos ainda permanecem visíveis. A política de uso aceitável da xAI proíbe a sexualização de crianças, mas as equipes de segurança da empresa não comentaram sobre os fatos. Quando a equipe de mídia da xAI foi contatada, a resposta foi um retorno padrão.
Musk, apesar da gravidade das situações, compartilhou postagens humorísticas relacionadas ao problema. Em um dos posts, pediu uma imagem dele mesmo em um biquíni e reagiu a uma piada sobre outro líder mundial recebendo tratamento semelhante. Em resposta a preocupações levantadas por usuários sobre a sexualização de crianças, um funcionário da xAI mencionou que a equipe está avaliando melhorias nas diretrizes de segurança, mas as imagens sexualizadas continuam sendo geradas pelo bot.
O uso de inteligência artificial para criar pornografia não consensual não é uma novidade, tendo sido reportado desde 2017 com os chamados “deepfakes”. O Grok facilita a criação desse tipo de conteúdo e sua viralização nas redes sociais. O aumento recente dessa prática no X é mais uma resposta a conteúdos provocativos que usuários criaram anteriormente. Isso sugere que cada nova imagem postada pode inspirar a criação de mais conteúdos semelhantes, caracterizando uma forma de assédio sexual que parece ser minimizada pelo próprio Musk.
O Grok e a plataforma X parecem projetados para permitir uma ampla gama de conteúdos sexualizados. Neste ano, a xAI lançou a função “Grok Imagine”, que inclui um modo “apimentado” e possibilitou a criação de vídeos de artistas famosos em situações ousadas. Também foram lançados “Companions”, personagens animados que incentivam interações românticas, como um que se apresenta de forma sugestiva. Musk promoveu essa nova funcionalidade, descrevendo-a de maneira provocativa.
Recentemente, a xAI atualizou as diretrizes do Grok, permitindo a criação de conteúdos eróticos para adultos, mas ressaltando que é proibido produzir material relacionado a abusos infantis. Essa mudança indica uma abertura para conteúdos mais permissivos, enquanto os usuários discutem maneiras de explorar esses limites dentro de comunidades online.
O Grok parece ter uma postura mais permissiva em comparação com outros chatbots, não havendo relatos significativos de outras plataformas, como ChatGPT ou Gemini, produzindo conteúdos sexualmente sugestivos de menores. Contudo, a indústria de IA enfrenta desafios similares em relação à pornografia não consensual e material de abuso infantil. Nos últimos anos, várias organizações têm relatado um aumento significativo nesse tipo de conteúdo gerado por IA, especialmente imagens de crianças. Um diretor de uma importante ONG focada na segurança infantil informou que os relatórios sobre o uso de IA para criar esse material aumentaram drasticamente.
O Grok tem exposto um problema geralmente oculto, pois o conteúdo abusivo pode estar presente em várias plataformas sem que isso seja visível publicamente. Embora imagens e vídeos gerados pelo Grok tenham atraído atenção negativa, é provável que situações ainda mais graves ocorrem em partes menos acessíveis da internet, onde modelos de IA sem restrições podem ser utilizados sem supervisão. A forma como a plataforma é projetada parece facilitar essa amplificação do abuso através de ferramentas de inteligência artificial.