A OpenAI anunciou o desmantelamento de duas operações de influência impulsionadas por inteligência artificial que se valiam de jornalistas falsos e de um instituto de pesquisas de fachada para difundir mensagens geopolíticas. As campanhas, identificadas e bloqueadas pelas equipes de investigação da empresa, ilustram uma tática em que modelos de inteligência artificial servem como instrumento de apoio dentro de esquemas mais amplos destinados a fabricar credibilidade e ocultar quem está por trás do conteúdo.
Uma das operações tinha como núcleo o International Burke Institute (IBI), apresentado como uma instituição aparentemente legítima, completa com supostos especialistas, trabalhos acadêmicos republicados e um suposto índice próprio de riscos. A atividade interrompida pela OpenAI, no entanto, concentrava-se no conteúdo publicado em redes sociais que promovia ou direcionava usuários ao site, e não no material hospedado diretamente na página da organização.
Segundo o relatório da empresa, os responsáveis pela campanha utilizaram o ChatGPT, o assistente de inteligência artificial da OpenAI, apenas para produzir posts promocionais isolados que apontavam para o site do instituto. Para a empresa, o ponto mais relevante da descoberta está menos no público alcançado e mais na infraestrutura construída pelos operadores, que investiram em uma fachada institucional sofisticada para dar aparência de autoridade ao material difundido.
As investigações também identificaram esforços deliberados para disfarçar as origens russas dos operadores da campanha. Embora a operação pareça ter alcançado audiências relativamente pequenas, sua construção elaborada a diferencia de outras iniciativas de influência ligadas à Rússia que a OpenAI já desmantelou desde o início da guerra na Ucrânia. O caso demonstra como atores de influência podem usar a inteligência artificial como ferramenta auxiliar em um esforço maior para fabricar autoridade e obscurecer suas verdadeiras origens.
A segunda operação desmantelada seguia lógica semelhante, mas se apoiava em jornalistas falsos para espalhar mensagens geopolíticas. A estratégia de criar personagens jornalísticos fictícios tem como objetivo emprestar aparência de legitimidade informativa às narrativas divulgadas, dificultando que o público perceba que o conteúdo origina-se de fontes coordenadas e não de profissionais de imprensa reais.
Em seus comunicados sobre o tema, a OpenAI detalha como cada operação funcionava, em que pontos o ChatGPT foi utilizado e quais medidas a empresa adotou para desarticular as campanhas. As ações incluem o banimento das contas associadas às atividades identificadas. A empresa reitera que publica esses achados para que a indústria, os governos e a sociedade civil estejam melhor preparados para reconhecer e bloquear tentativas de manipulação que se valem de ferramentas de inteligência artificial.
Os dois casos reforçam a atenção crescente da OpenAI ao uso malicioso de seus modelos em operações encobertas de influência. O desmantelamento das campanhas com jornalistas de fachada e do instituto fictício mostra que, mesmo com alcance limitado, esquemas que combinam inteligência artificial com estruturas de credibilidade forjadas representam desafio relevante para a integridade do debate público e do ecossistema informativo global.
