Um ex-integrante da equipe de segurança da OpenAI, criadora do ChatGPT, rompeu o silêncio e fez duras críticas à forma como as companhias de inteligência artificial vêm conduzindo o desenvolvimento de sistemas cada vez mais avançados. Em artigo publicado neste sábado (3) na revista estadunidense The Atlantic, David Robinson afirmou que as empresas do setor, incluindo a própria OpenAI, não estão sendo "nem de perto cuidadosas o suficiente" diante dos riscos envolvidos. Para ele, a velocidade da corrida tecnológica eleva a chance de falhas e exige uma postura mais cautelosa por parte das organizações.
Robinson afirmou ter trabalhado por três anos e meio na OpenAI, período em que ajudou a elaborar a estrutura usada pela empresa para lidar com riscos e supervisionou os relatórios de segurança de 12 lançamentos de modelos avançados. Essa experiência interna, segundo ele, reforçou a percepção de que o ritmo imposto pela companhia compromete a qualidade das salvaguardas. "À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário", escreveu o ex-funcionário em seu texto.
Entre os pontos centrais da crítica está o alerta de que a agenda de desenvolvimento deixa pouco espaço para especialistas em segurança e para a pesquisa, etapas que Robinson considera indispensáveis antes da criação de sistemas mais avançados. Em sua avaliação, tecnologias desse porte demandam medidas de proteção semelhantes às adotadas em setores de alto risco, como energia nuclear e aviação. A mensagem é direta: "O tempo de tentativa e erro acabou", escreveu ele, defendendo que o amadurecimento das salvaguardas precisa anteceder os lançamentos, e não acompanhar a corrida comercial.
O ex-funcionário também questionou uma prática adotada pela OpenAI e batizada pela empresa de "implantação iterativa". O conceito consiste em lançar os sistemas no mercado e reforçar as medidas de segurança apenas conforme os problemas aparecem. Para Robinson, esse modelo é incompatível com o estágio atual da tecnologia, em que as capacidades dos sistemas avançam em ritmo superior ao domínio técnico disponível para controlá-los.
Outra preocupação destacada no artigo envolve o chamado "alinhamento", área da pesquisa que busca garantir que os sistemas de inteligência artificial ajam de acordo com objetivos e valores humanos. Robinson alertou que as capacidades da IA estão progredindo mais rapidamente do que o conhecimento dos pesquisadores sobre esse processo de adequação, o que amplia a margem de incerteza sobre o comportamento dos modelos em situações reais.
Em resposta às críticas, a OpenAI afirmou que trabalha para evitar que seus modelos se tornem mais avançados do que a empresa consegue administrar com segurança. Segundo um porta-voz da companhia, a organização já adota mecanismos de controle de ritmo. "Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o passo", declarou o representante, indicando que a empresa reconhece a necessidade de frear processos em determinados momentos.
As declarações de Robinson se inserem em um debate mais amplo que toma conta do setor de inteligência artificial: a velocidade com que as empresas desenvolvem sistemas cada vez mais sofisticados. A OpenAI e a concorrente Anthropic têm sido alvo de questionamentos após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados, o que aumentou a pressão pública por mais transparência e rigor.
O descontentamento, aliás, não é um caso isolado. No mês passado, um ex-pesquisador que deixou a OpenAI para atuar na Anthropic também abandonou a indústria e acusou as duas empresas estadunidenses de "brincar com as nossas vidas". Jacob Coxon, britânico de 27 anos, trabalhou durante três anos com pré-treinamento, etapa inicial do desenvolvimento em que os modelos de IA absorvem grandes quantidades de informação, passando primeiro pela OpenAI e, neste ano, pela Anthropic.
"Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas", escreveu Coxon em publicação na rede social X. A fala reforça o mesmo argumento apresentado por Robinson: o ritmo acelerado da competição entre empresas pode estar comprometendo os cuidados mínimos exigidos por uma tecnologia de tanto alcance.
O conjunto de críticas, vindo de profissionais que estiveram dentro das principais laboratórios de inteligência artificial do mundo, coloca em evidência a tensão entre a pressa por avanços comerciais e a necessidade de salvaguardas robustas. Enquanto a OpenAI sustenta que já reduz o ritmo quando necessário, ex-funcionários insistem que o momento exige padrões comparáveis aos da aviação e da energia nuclear, com espaço real para pesquisa, avaliação e supervisão antes que sistemas mais avançados cheguem ao público.
