Jacob Coxon, pesquisador de 27 anos que passou três anos trabalhando no treinamento de modelos de inteligência artificial na OpenAI e na Anthropic, pediu demissão da Anthropic com um alerta sobre o que executivos das duas empresas discutem longe dos holofotes. Segundo ele, as conversas privadas admitem a possibilidade de uma catástrofe provocada por uma superinteligência fora de controle ainda nesta década. O relato expõe a distância entre a linguagem cautelosa usada publicamente pelos laboratórios e o que é dito em seus bastidores.
A OpenAI é a empresa responsável pelo ChatGPT e pelos modelos GPT. A Anthropic, criadora do assistente Claude, foi fundada por ex-integrantes da própria OpenAI e se posiciona como um laboratório dedicado à segurança em inteligência artificial. Coxon conheceu os dois ambientes por dentro antes de decidir abandonar a corrida da IA.
Ao anunciar a saída, o pesquisador foi direto ao ponto. Nem uma nem outra empresa está agindo de forma responsável, escreveu Coxon. Em sua avaliação, quem desenvolve os modelos mais avançados do mundo admite, em conversas internas, a chance de a tecnologia provocar um desastre catastrófico nos próximos anos, embora use linguagem bem mais moderada quando fala em público.
A crítica central do pesquisador aponta para a lógica da corrida entre os laboratórios. Na Anthropic, segundo Coxon, os riscos são plenamente conhecidos pela liderança. A empresa, mesmo assim, segue acelerando o desenvolvimento porque acredita que um concorrente pode chegar primeiro à superinteligência e fazer isso de maneira ainda menos segura.
Na OpenAI, o diagnóstico seria diferente. Coxon avalia que parte da organização ainda não absorveu por completo a gravidade das consequências envolvidas na criação de sistemas capazes de se aperfeiçoar sozinhos.
O relato ganhou peso porque recebeu uma confirmação pública vinda de dentro da própria Anthropic. Evan Hubinger, líder de Alignment Science da companhia, área dedicada ao alinhamento entre o comportamento dos modelos de IA e os interesses humanos, disse acreditar que há mais de 10% de chance de uma inteligência artificial provocar a morte de toda a humanidade na próxima década.
Hubinger também reconheceu um ponto sensível. A Anthropic ainda não dispõe de uma solução capaz de garantir o controle sobre uma eventual superinteligência. A declaração vem de um dos cargos técnicos mais relevantes de um dos laboratórios mais avançados do setor.
Há, porém, uma ressalva importante no posicionamento do pesquisador. Segundo Hubinger, os modelos disponíveis atualmente oferecem risco baixo. O temor está concentrado em uma etapa posterior do desenvolvimento: sistemas capazes de melhorar a si mesmos repetidamente, acelerando sua própria evolução sem que os pesquisadores tenham domínio equivalente sobre seu comportamento.
Essa distinção ajuda a entender a natureza do debate interno. O problema apontado não é o comportamento dos assistentes em uso hoje, e sim o cenário em que a melhoria automática de sistemas se torne autônoma, com velocidade e profundidade que superem a capacidade humana de compreensão e correção.
É exatamente essa contradição que Coxon decidiu expor ao deixar a indústria. As empresas que mais investem para criar uma inteligência superior à humana são também comandadas e abastecidas por pesquisadores que atribuem uma probabilidade relevante a um desfecho catastrófico. Mesmo assim, a corrida continua.
A superinteligência, expressão usada no setor para descrever um sistema hipotético capaz de superar o desempenho humano em praticamente todas as tarefas, ainda não existe. O que existe hoje é a disputa entre laboratórios para alcançá-la primeiro, com a OpenAI e a Anthropic entre os principais concorrentes.
Para profissionais e empresas que acompanham o setor, o episódio reforça uma questão que ganha espaço nos debates técnicos. A comunicação oficial das empresas pode transmitir mais segurança do que a percepção interna dos próprios especialistas que constroem a tecnologia.
O depoimento de Hubinger, somado à saída de Coxon, coloca em evidência o debate sobre os limites da segurança e do controle em inteligência artificial. Trata-se de um dos temas mais profundos e desconfortáveis da indústria, agora confirmado por vozes que saíram de dentro dos próprios laboratórios.
