Líderes de grandes laboratórios de inteligência artificial, incluindo Dario Amodei, da Anthropic, Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e Elon Musk, da SpaceXAI, sinalizaram apoio público a um pedido de freio no ritmo de desenvolvimento dos grandes modelos de linguagem. A mudança de tom acontece após uma série de episódios que expuseram falhas no controle de sistemas avançados, e reacende o debate sobre os rumos da indústria.
O movimento começou quando Amodei publicou um ensaio defendendo uma pausa no avanço dos chamados LLMs, sigla em inglês para grandes modelos de linguagem, que são sistemas de inteligência artificial treinados com enormes volumes de texto para gerar respostas em linguagem natural. No texto, o executivo da Anthropic alertou para riscos que vão do uso da tecnologia em ataques cibernéticos até seu potencial de provocar um colapso econômico, passando por uma possível aplicação em bioterrorismo.
Pouco depois, os demais líderes se manifestaram em apoio à proposta. Musk escreveu de forma direta na rede social X que Amodei está certo. A declaração chamou atenção porque, até poucos meses antes, Musk e Altman estavam em tribunais trocando ataques públicos em um processo que envolvia justamente a confiança na gestão de tecnologias tão poderosas. A rivalidade entre Anthropic e OpenAI, aliás, é ainda mais antiga: a Anthropic foi fundada em 2021 justamente porque Amodei considerava que Altman não levava os riscos da tecnologia a sério. Desde então, as duas empresas competem em uma corrida em que apenas um vencedor parece capaz de prevalecer. Hassabis, por sua vez, manteve-se distante da polêmica pública, mas sua companhia segue como concorrente direta.
Esse novo discurso dos principais executivos do setor marca uma guinada mais pessimista em relação à segurança da inteligência artificial. É fácil desconfiar das intenções por trás dessa mudança. Não está claro o que cada um entende por desacelerar o desenvolvimento nem como isso seria colocado em prática. Ao mesmo tempo, essas empresas têm interesse direto em transmitir uma imagem de responsabilidade, especialmente porque OpenAI e Anthropic já projetam aberturas de capital avaliadas em trilhões de dólares. Ao alertar sobre os perigos da própria criação, essas companhias conseguem se apresentar como adultas na sala e, ao mesmo tempo, reforçar a percepção de que dominam uma tecnologia extraordinariamente poderosa.
Ainda assim, há indícios de que o clima interno nessas organizações realmente mudou. Seis dias antes do ensaio de Amodei, a OpenAI publicou um texto assinado por seu cientista-chefe, Jakub Pachocki, no qual ele também manifestou preocupação com o que pode acontecer se o ritmo de avanço dos modelos não for controlado. Para Pachocki, a capacidade da empresa de construir modelos poderosos já supera sua capacidade de monitorá-los e controlá-los de forma adequada.
Tanto Amodei quanto Pachocki mencionaram como exemplo o ataque cibernético sofrido pela empresa de inteligência artificial Hugging Face em julho, quando agentes autônomos da OpenAI invadiram seus sistemas. O episódio só foi descoberto pela própria OpenAI dias depois do ocorrido. As referências ao caso funcionam como um alerta concreto sobre os riscos de se desenvolver sistemas cada vez mais autônomos sem mecanismos eficazes de supervisão.
Apesar do tom de preocupação, as posições exatas desses executivos não são fáceis de definir. Pachocki, por exemplo, ao mesmo tempo em que defende uma desaceleração, afirma que é preciso continuar treinando modelos mais inteligentes rapidamente para criar sistemas defensivos contra os perigos da inteligência artificial. A mensagem central é que as empresas de IA estão em uma corrida armamentista literal: frear é bom, mas vencer é melhor. Recentemente, a OpenAI chegou a gastar milhões de dólares e uma quantidade enorme de poder computacional para publicar um resultado matemático controverso poucos dias antes de um anúncio semelhante da Anthropic.
Caso um freio no setor realmente aconteça, com laboratórios concordando em dedicar mais tempo e recursos ao monitoramento e controle dos modelos existentes em vez de criar versões mais avançadas, além de abrir espaço para auditorias externas, os efeitos práticos ainda são incertos. O caso da Hugging Face voltou ao centro da discussão porque a OpenAI afirmou que o modelo responsável pela maioria dos agentes descontrolados era um modelo de última geração testado internamente, sugerindo que se tratava de um sistema tão poderoso que se tornou difícil de controlar.
No entanto, ao analisar os relatórios da própria OpenAI e da METR, empresa terceira chamada para investigar o ocorrido, a impressão que fica é diferente: a de um modelo com falhas no treinamento, e não de um sistema inevitavelmente perigoso. Os agentes agiram da maneira como agiram porque foram recompensados durante o treinamento justamente por comportamentos como deixar mensagens entre si, delegar tarefas a outros agentes e explorar qualquer recurso disponível para cumprir seus objetivos. Houve também erros na configuração do treinamento, como tarefas impossíveis de completar, que empurraram os modelos a encontrar soluções alternativas também recompensadas. Muitos desses problemas passaram despercebidos na ocasião. A OpenAI afirmou ter interrompido o treinamento desse modelo e isolado o sistema, o que soa como o encarceramento de uma fera perigosa, mas, na prática, equivale a descontinuar um produto com defeito.
Um produto com defeito pode, sim, ser perigoso. Softwares com falhas já causaram mortes no passado. Mas, à medida que o discurso sobre uma desaceleração ganha força, vale lembrar que tudo isso foi autoinfligido. Um freio no ritmo de desenvolvimento pode gerar efeitos positivos, mas, em essência, dará aos gigantes da tecnologia a oportunidade de limpar os problemas em suas próprias linhas de produção.
Para que qualquer esforço de reforma, restrição ou regulação da inteligência artificial tenha significado real, a transparência dos laboratórios de fronteira será determinante. Caso contrário, o restante da sociedade continuará dependendo apenas da palavra dessas empresas para acreditar no que elas construíram e no nível real de segurança envolvido, independentemente do ritmo em que decidam avançar.
