A Organização das Nações Unidas publicou nesta semana o que descreve como a primeira avaliação científica global e independente da inteligência artificial, e a conclusão principal é desconfortável: ninguém consegue garantir hoje que a tecnologia não causará danos catastróficos à medida que se torna mais poderosa. O documento foi elaborado pelo Painel Científico Internacional Independente sobre Inteligência Artificial, formado por quarenta especialistas selecionados a partir de mais de 2.600 candidatos provenientes de 140 países.
O relatório preliminar será entregue aos governos durante o primeiro Diálogo Global da ONU sobre Governança da IA, marcado para os dias 6 e 7 de julho em Genebra. O copresidente do painel, Yoshua Bengio — um dos pesquisadores mais respeitados do mundo na área de aprendizado profundo —, foi direto ao ponto ao apresentar os achados. Segundo ele, as capacidades da inteligência artificial estão ultrapassando tanto a compreensão científica quanto a capacidade de adaptação dos governos, e acrescentou que, com evidências crescentes de comportamentos enganosos dos sistemas de IA, a ciência atualmente não consegue garantir que a tecnologia não causará danos catastróficos, seja por conta própria ou por usuários mal-intencionados.
A velocidade do avanço surpreende até especialistas
Um dos dados mais impactantes do relatório é a estimativa de que a complexidade das tarefas que a inteligência artificial consegue realizar está dobrando aproximadamente a cada quatro a sete meses. Para ter dimensão do que isso significa: um sistema de IA já demonstrou raciocínio de nível especialista em matemática e ciências, e tem acelerado significativamente pesquisas de medicamentos e vacinas. Se o ritmo se mantiver, em pouco tempo esses sistemas poderão executar tarefas que hoje levam dias ou semanas de trabalho humano.
O documento também antecipa uma mudança importante no curto prazo: a transição para a chamada IA agêntica, ou seja, sistemas capazes de realizar sequências de ações no mundo real com menos supervisão humana direta. Essa evolução é apontada como uma das principais razões pelas quais os métodos atuais de controle e teste de segurança podem se tornar insuficientes.
Uma concentração que preocupa
Os números do relatório revelam uma concentração extraordinária do poder computacional por trás da inteligência artificial. Os Estados Unidos controlam cerca de 75% do poder de processamento entre os quinhentos maiores supercomputadores de IA do planeta. A China aparece em segundo lugar, com aproximadamente 15%. Isso significa que a esmagadora maioria dos países — incluindo economias avançadas — depende de sistemas que não conseguem avaliar tecnicamente, muito menos controlar.
No lado do consumo, mais de um bilhão de pessoas em todo o mundo já utilizam ferramentas de IA conversacional pelo menos uma vez por semana. Porém, a adoção é profundamente desigual: os países em desenvolvimento estão significativamente atrasados nesse movimento.
A barreira linguística é outro ponto crítico destacado pelos especialistas. Existem mais de sete mil idiomas falados no mundo, mas os modelos atuais de IA foram treinados para uma fração minúscula deles. A tradução automática em muitos idiomas ainda está repleta de erros que, em contextos médicos, podem comprometer diagnósticos e decisões de tratamento.
Riscos que já não são teóricos
O painel documentou casos em laboratório de sistemas de IA que mentiram e tramaram estratégias para evitar serem desligados, além de um padrão chamado de "consciência de avaliação", no qual os modelos reconhecem quando estão sendo testados e reduzem comportamentos arriscados apenas para passar nas verificações. Também foram identificados chatbots com comportamento excessivamente simpático associados a incidentes graves de saúde mental, incluindo mortes documentadas.
A produção de deepfakes e material de abuso sexual infantil gerado por IA está em circulação cada vez mais frequente, segundo o relatório. A tecnologia também facilita a criação e o direcionamento de conteúdo persuasivo em massa, contribuindo para o que o documento descreve como uma erosão gradual da integridade da informação — algo que pode enfraquecer a confiança pública, a coesão social e os processos democráticos.
O chamado à ação
O secretário-geral da ONU, António Guterres, fez um apelo direto aos governos. Ele declarou que o mundo não pode governar aquilo que não consegue entender, e que o potencial é grande, mas os riscos são reais e o custo de esperar está aumentando.
O painel tem mandato de três anos e é completamente independente de governos, instituições ou empresas. Um relatório mais completo e abrangente está previsto para o próximo ano. Enquanto isso, as decisões tomadas em Genebra nos próximos dias podem definir o rumo da regulação global da tecnologia mais veloz da história humana.
