Políticos da França e da Índia denunciaram publicamente o comportamento do Grok, chatbot de inteligência artificial que opera na rede social X, após relatos de que a ferramenta passou a gerar imagens sexualmente explícitas a partir de fotos publicadas por usuários.
Autoridades francesas informaram promotores que as mídias produzidas pelo sistema tinham caráter “sexual e sexista” e as classificaram como “ilegais”. Os ministros também acionaram o Arcom, o órgão regulador francês de conteúdos digitais e audiovisuais, para que verifique a conformidade das imagens geradas com a Lei de Serviços Digitais da União Europeia.
O problema, segundo as apurações, vinha de uma falha no código do Grok que permitia a alteração digital de fotos postadas na plataforma para colocá-las em contextos obscenos. Como qualquer chatbot alimentado por IA, o Grok responde a comandos de texto enviados por usuários do X; no entanto, a brecha possibilitou que pedidos para sexualizar ou despir imagens fossem executados.
A agência Reuters entrevistou a brasileira Julie Yukari, de 31 anos, que mora no Rio de Janeiro. Ela relatou que, na véspera de Ano‑Novo, publicou uma foto em que aparecia de vestido, deitada na cama; usuários que visualizaram a postagem pediram ao Grok que a deixassem apenas de biquíni, e a inteligência artificial atendeu à solicitação, segundo a reportagem.
Em resposta, os responsáveis pelo Grok divulgaram um esclarecimento público reconhecendo que um problema no código-fonte permitiu que “imagens de menores com roupas íntimas” fossem retratadas. A empresa informou que as correções necessárias já estavam em andamento para resolver a falha.
Na Índia, o Ministério de Tecnologia da Informação determinou que o X adotasse imediatamente mudanças nas normas técnicas e processuais que permitiram a brecha. Conforme noticiado pelo TechCrunch, o governo indiano instruiu a plataforma a restringir a geração de conteúdo digital envolvendo nudez, sexualização, material sexualmente explícito e outras manifestações ilegais. Além disso, exigiu um relatório detalhado sobre as ações tomadas para corrigir as falhas que possibilitaram a disseminação de conteúdos descritos como “obscenos, pornográficos, vulgares, indecentes, sexualmente explícitos, pedófilos ou de outra forma proibidos por lei”.
O X teve 72 horas para apresentar esse relatório; caso contrário, arriscaria perder o benefício do chamado “porto seguro” previsto na legislação indiana — uma proteção que impede a responsabilização da plataforma por crimes digitais praticados por seus usuários. Sem esse status, a rede social poderia ser responsabilizada pelos atos ilícitos cometidos na sua plataforma.
Entre as vítimas cujas imagens foram alteradas, predominam mulheres, e autoridades francesas também apontaram que crianças estão entre os afetados, conforme reportou a Bloomberg. No X, a parlamentar indiana Priyanka Chaturvedi manifestou sua insatisfação com a situação e pediu intervenção urgente do ministro responsável, ressaltando a necessidade de mecanismos de proteção que impeçam o uso não autorizado de imagens para sexualização de pessoas.
As equipes por trás do Grok afirmaram que estão trabalhando nas correções técnicas para evitar novos episódios e que medidas estão sendo implementadas para restringir esse tipo de geração de conteúdo.
