Anthropic propõe mecanismo global para pausar avanço da inteligência artificial
A Anthropic, empresa responsável pelo assistente de inteligência artificial Claude, defendeu publicamente a criação de um mecanismo internacional capaz de interromper temporariamente o desenvolvimento de sistemas de IA. Em manifesto divulgado no blog oficial da companhia, a justificativa é oferecer à sociedade uma janela de tempo para lidar com as implicações da tecnologia antes que ela atinja um ponto de autonomia considerado irreversível.
A proposta parte da premissa de que a inteligência artificial está evoluindo rapidamente para um cenário em que deixará de funcionar apenas como ferramenta de auxílio cotidiano. Segundo a Anthropic, os sistemas poderão tornar o trabalho humano milhares de vezes mais eficiente ou, em grande parte, substituí-lo por completo. A empresa afirma que os modelos de IA estão caminhando para um estágio em que não dependerão mais de engenheiros de software para projetar suas próximas versões, já que a própria inteligência artificial seria capaz de escrever seu código, identificar gargalos em sua arquitetura e lançar atualizações de forma autônoma. Caso esse ciclo de evolução contínua se estabeleça, a necessidade de supervisão humana seria drasticamente reduzida.
Para viabilizar a paralisação, a Anthropic sugere a adoção de um modelo inspirado nos tratados internacionais que regulam armas nucleares. A mecânica da proposta exige garantias de que empresas concorrentes não continuem desenvolvendo a tecnologia em segredo durante o período de vigência do acordo. A solução apresentada pelos executivos da companhia envolve um sistema rigoroso de verificações, no qual as próprias corporações do setor realizariam auditorias físicas e de software nos data centers umas das outras para assegurar o cumprimento da paralisação.
A dona do Claude confirmou que pretende organizar rodadas de conversas com formuladores de políticas públicas, pesquisadores acadêmicos e executivos de outras companhias do setor para transformar a proposta em algo concreto. Os resultados dessas reuniões serão futuramente divulgados ao público. A empresa reconhece, porém, que o caminho até um eventual acordo é complexo, uma vez que os exercícios de treinamento de IA ocorrem em hardwares de uso geral e são relativamente fáceis de ocultar. Além disso, o incentivo financeiro para violar um acordo silenciosamente é considerado gigantesco, já que a empresa que continuar avançando em segredo poderia conquistar a liderança de um mercado avaliado em trilhões de dólares.
O debate proposto pela Anthropic não é totalmente novo. Em 2023, o Future of Life Institute, organização não governamental focada na prevenção de riscos tecnológicos, já havia publicado uma carta aberta solicitando uma pausa de pelo menos seis meses nos experimentos com grandes modelos de inteligência artificial. O documento, que alertava para efeitos possivelmente catastróficos, reuniu a assinatura do bilionário Elon Musk e de mais de mil executivos e pesquisadores, mas não surtiu efeito na indústria. Naquela ocasião, o ex-CEO do Google Eric Schmidt afirmou que qualquer acordo que forçasse empresas americanas a desacelerar seus projetos acabaria beneficiando concorrentes da China, evidenciando a perda de competitividade como principal barreira para frear o desenvolvimento.
Apesar do tom de urgência do manifesto, as operações comerciais da própria Anthropic apresentam um contraste evidente com o discurso de paralisação. De acordo com a agência Bloomberg, o laboratório de inteligência artificial mantém um ritmo agressivo de pesquisa e desenvolvimento e revelou recentemente um novo modelo chamado Mythos. Segundo a desenvolvedora, o sistema possui a capacidade de detectar e explorar vulnerabilidades de segurança cibernética — falhas que podem ser usadas para invasões de sistemas e roubo de dados — com velocidade considerada impressionante. O lançamento do novo modelo ocorre em paralelo aos preparativos da empresa para realizar sua oferta pública inicial de ações, conhecida como IPO, no mercado financeiro.
A dualidade entre o alerta global e a aceleração interna coloca em evidência as contradições do próprio setor de inteligência artificial. Enquanto a Anthropic pede uma pausa coordenada em nome da segurança coletiva, continua expandindo sua capacidade tecnológica e se preparando para captar recursos de investidores, reforçando a tensão entre a regulação proposta e os interesses comerciais que movem a corrida pelo desenvolvimento da IA.
