Pesquisadores criam observatório independente para investigar o uso real da inteligência artificial generativa
Uma nova iniciativa acadêmica busca preencher uma lacuna importante no debate sobre inteligência artificial: a falta de dados independentes sobre como as pessoas realmente utilizam ferramentas como ChatGPT, Claude, Gemini e Grok no dia a dia. O projeto, chamado AI Observatory, reúne pesquisadores de instituições como Stanford, MIT e Data Provenance Initiative com o objetivo de analisar conversas reais coletadas com consentimento dos usuários e oferecer uma visão mais ampla do que aquela divulgada pelas próprias empresas de tecnologia.
Segundo Anka Reuel, doutoranda em ciência da computação no Stanford Trustworthy AI Research Lab e uma das coordenadoras do projeto, não existe hoje uma fonte independente capaz de corroborar os relatórios publicados por grandes empresas do setor. Para ela, decisões de alto impacto sobre os benefícios e os riscos da inteligência artificial generativa estão sendo tomadas com base em dados limitados. O AI Observatory foi criado justamente para oferecer à comunidade acadêmica e aos formuladores de políticas uma base mais confiável de informações sobre o uso dessas tecnologias.
O estudo reúne 24.521 conversas, totalizando 85.633 turnos de interação entre usuários e modelos de inteligência artificial, obtidos a partir de sete conjuntos de dados já existentes. As interações envolvem cerca de cinco mil usuários e 52 modelos diferentes, incluindo Claude, ChatGPT, Gemini e Grok, no período entre 2023 e 2025. Embora o volume seja expressivo para uma pesquisa independente, os próprios pesquisadores reconhecem que ele é pequeno se comparado ao acesso que as grandes empresas possuem: o mais recente índice econômico da Anthropic, por exemplo, foi construído a partir da análise de um milhão de conversas com Claude, enquanto o relatório da OpenAI sobre o uso do ChatGPT analisou 1,5 milhão de interações.
Um dos principais achados do observatório diz respeito às diferenças de uso entre os modelos. Quando os pesquisadores aplicaram a mesma metodologia utilizada pela Anthropic em seu Economic Index a uma base independente, descobriram que quase metade das conversas, equivalente a 48%, teria sido descartada pela filtragem da empresa, que prioriza temas relacionados ao trabalho e à produtividade. As conversas filtradas apresentavam proporções significativamente maiores de conteúdo sensível, incluindo temas de saúde e relacionamentos, além de categorias como conteúdo adulto ou ilícito, discurso de ódio e assédio, e material sexual, em comparação com o que aparece nos relatórios corporativos.
O relatório de 2025 da OpenAI sobre o uso do ChatGPT também apontou que apenas 30% das conversas de consumidores tinham relação com trabalho, número que reforça a percepção de que os relatórios oficiais das empresas não capturam a totalidade dos usos da inteligência artificial generativa pela população. A Anthropic já publicou posts separados abordando o uso do Claude para apoio emocional, companhia e até para a geração de material de abuso sexual infantil, mas, segundo David Widder, professor assistente da Escola de Informação da Universidade do Texas em Austin, uma visão agregada como a oferecida pelo observatório permite compreender esses usos de maneira mais consistente.
A análise também revelou mudanças ao longo do tempo. No WildChat, um dos maiores conjuntos de dados utilizados pelo projeto, as conversas se tornaram mais longas e elaboradas, com aumentos no número de prompts, respostas e turnos de interação. Houve também um crescimento significativo de pequenas conversas informais, o que sugere uma expansão do uso da inteligência artificial para companhia. Ao mesmo tempo, diminuiu a frequência com que os próprios modelos se identificavam como chatbots. Por outro lado, as trocas classificadas como sensíveis, envolvendo conteúdo potencialmente prejudicial, registraram queda no conjunto analisado, o que pode indicar a adoção de salvaguardas mais eficazes pelas plataformas.
O observatório também identificou padrões distintos de uso entre diferentes modelos. Grok e Gemini foram utilizados com mais frequência para busca de informações, com destaque para o Grok, bastante procurado para temas de notícias e política, mas também apontado como ambiente onde a desinformação tende a se concentrar. Já a Anthropic foi a opção mais associada a tarefas de programação, o Gemini apareceu com mais intensidade em usos sociais e de interpretação de papéis, e o ChatGPT se destacou como ferramenta de apoio em trabalhos escolares. Os pesquisadores também encontraram diferenças entre versões de um mesmo modelo: as conversas com o ChatGPT movido pelo GPT-3.5 eram mais curtas, enquanto o GPT-4o, versão conhecida por relatos de dependência emocional, gerou interações mais longas e iterativas.
Os autores do projeto reconhecem algumas limitações importantes. Como os dados foram obtidos de forma voluntária, é provável que os usos sensíveis estejam sub-representados, já que muitas pessoas podem hesitar em compartilhar esse tipo de conteúdo. Ainda assim, a disponibilização desses dados para a comunidade de pesquisa amplia o acesso a informações que normalmente permanecem restritas às empresas. Shayne Longpre, recém-doutor pelo MIT Media Lab e outro coordenador do trabalho, afirmou que nenhum relatório corporativo isolado consegue contar a história completa sobre o uso da inteligência artificial.
A expectativa dos pesquisadores é de que o AI Observatory continue expandindo seus conjuntos de dados ao longo do tempo e que, idealmente, as próprias empresas passem a compartilhar seus dados com pesquisadores independentes, sempre protegendo a privacidade dos usuários. Enquanto isso não acontece, quem toma decisões com base em informações sobre o uso da inteligência artificial corre o risco de operar, nas palavras de Reuel, completamente no escuro, baseando-se apenas nas narrativas construídas pelas próprias companhias.
