Grok, o chatbot de inteligência artificial da xAI integrado ao X/Twitter — empresas ligadas a Elon Musk — passou a exigir assinatura paga para liberar as funções de geração e edição de imagens. A alteração foi motivada por uma onda de críticas sobre o uso da ferramenta para criar imagens sexualizadas de pessoas sem consentimento, incluindo mulheres e crianças.
A xAI apresentou a cobrança como uma medida de contenção diante do desgaste público e da pressão de autoridades, não como uma solução definitiva. Na prática, o paywall funciona como tentativa de reduzir o uso indiscriminado do sistema enquanto a empresa reorganiza salvaguardas e políticas internas.
O problema se agravou porque atualizações recentes tornaram mais simples a edição de imagens enviadas por usuários. Com a queda da barreira técnica, ficou muito mais fácil transformar fotos reais em manipulações fotorealistas: remover roupas, distorcer contextos, gerar deepfakes de figuras públicas e produzir material associado a crimes graves — tudo sem notificação ou consentimento das pessoas retratadas. Isso reduziu tempo, esforço e conhecimento necessários para criar conteúdo abusivo.
Relatos confirmados mostram que a prática atingiu pessoas reais. Entre os casos citados estão manipulações recorrentes envolvendo a influenciadora Ashley St. Clair, além de imagens antigas de atrizes mirins alteradas e redistribuídas. Um levantamento da AI Forensics que analisou 20 mil imagens geradas em uma semana encontrou um padrão claro de pedidos repetidos para “remover roupas” de mulheres jovens, indicando um uso sistemático voltado à humilhação e exploração.
A gravidade do cenário atraiu atenção de reguladores internacionais. No Reino Unido, o Ofcom informou ter contatado o X ao identificar “sérias preocupações” sobre imagens sexualizadas de crianças geradas com apoio do Grok; o órgão tem poderes para aplicar multas bilionárias e até restringir o acesso à plataforma no país. A Internet Watch Foundation (IWF) alertou que o Grok passou a ser mencionado em fóruns da dark web como ferramenta para a produção de material de abuso sexual infantil e reportou imagens envolvendo crianças de 11 a 13 anos, enquadradas como crime grave pela legislação britânica.
Autoridades europeias também agiram: a Comissão Europeia determinou que o X preserve documentos internos relacionados ao Grok até 2026, enquanto avalia a conformidade da empresa com regras sobre conteúdo ilegal. Em Westminster, o Comitê de Mulheres e Igualdades deixou oficialmente de usar a plataforma, citando incapacidade de conter abusos e inadequação para comunicação institucional.
Organizações que monitoram a circulação de conteúdo ressaltam que o Grok pode funcionar como “porta de entrada”: imagens geradas pela ferramenta serviriam de base para conteúdos ainda mais extremos em outros sistemas, ampliando uma cadeia criminosa complexa e difícil de rastrear.
Diante das denúncias, Elon Musk afirmou que usuários que produzirem conteúdo ilegal sofrerão as mesmas consequências aplicadas a quem fizer upload de material criminoso. Essa posição, contudo, conviveu com publicações de tom irônico do próprio Musk, nas quais ele brincou sobre a capacidade da IA de “colocar biquínis em tudo”.
Mesmo sob forte escrutínio e diante de um quadro regulatório que ainda dificulta punições rápidas no Reino Unido, a xAI captou US$ 20 bilhões — cerca de R$ 108 bilhões — para ampliar sua infraestrutura de dados, um sinal de que o financiamento para avanços em IA segue acelerado, mesmo quando surgem danos associados ao uso dessas tecnologias.
A reportagem utilizou informações do Washington Post.
