Um pesquisador da área de segurança da Anthropic afirmou que atribui mais de 10% de probabilidade à hipótese de a inteligência artificial causar a morte de todos os seres humanos nos próximos dez anos. Para ele, nenhuma outra atividade humana representa esse nível de perigo. A estimativa foi apresentada como uma avaliação técnica fundamentada, e não como um golpe de marketing, em meio à corrida global pelo desenvolvimento de sistemas cada vez mais poderosos.
A Anthropic é a empresa criadora do Claude, família de modelos de linguagem que compete diretamente com o ChatGPT, da OpenAI. Fundada em 2021 por ex-integrantes da OpenAI, entre eles o atual diretor executivo, Dario Amodei, a companhia foi criada com a missão declarada de desenvolver inteligência artificial de forma segura. Por isso, a declaração de alguém que trabalha justamente com avaliação de riscos dentro da empresa tem peso específico no debate do setor.
O pesquisador rejeitou a interpretação de que o alerta serviria a interesses comerciais. Segundo ele, o número reflete uma análise sobre riscos existenciais associados ao ritmo atual da competição tecnológica, na qual grandes laboratórios lançam modelos sucessivamente mais capazes em intervalos cada vez mais curtos.
Em segurança de inteligência artificial, fala-se em risco existencial quando um cenário envolve danos permanentes e globais à humanidade, incluindo a extinção. O número de 10% citado não vem de um cálculo estatístico formal, mas de um julgamento de especialista formado no trabalho direto com modelos de fronteira, expressão usada para sistemas próximos do estado da arte em capacidade.
Em praticamente qualquer indústria de alto risco, da aviação à energia nuclear, probabilidades de falha catastrófica nessa ordem de grandeza seriam tratadas como inaceitáveis. O ponto central da declaração é que o desenvolvimento de inteligência artificial se tornou a atividade humana com o maior potencial de dano global identificado até agora.
O alerta se apoia no conceito de alinhamento, área da pesquisa em inteligência artificial dedicada a garantir que sistemas avançados ajam de acordo com as intenções e os valores humanos. Quanto mais capazes os modelos se tornam, mais difícil é verificar com antecedência se eles vão se comportar conforme o esperado em situações reais de uso.
A fala chega em um momento de competição acirrada entre a Anthropic, a OpenAI, o Google e a Meta, entre outros laboratórios. A pressão por lançamentos rápidos comprime os ciclos de treinamento, avaliação e implantação de novos modelos, exatamente as etapas em que as equipes de segurança atuam.
O debate público sobre o tema não é novo. Em 2023, centenas de especialistas, incluindo nomes centrais do campo como os pioneiros do aprendizado profundo Geoffrey Hinton e Yoshua Bengio, assinaram uma declaração afirmando que mitigar o risco de extinção causada por inteligência artificial deveria ser uma prioridade global, ao lado de riscos como pandemias e guerra nuclear.
A diferença, neste caso, está na origem do alerta: ele parte de dentro de uma das empresas que disputam a liderança do mercado, e não de críticos externos ou de pesquisadores afastados do desenvolvimento comercial. A própria liderança da Anthropic já manifestou publicamente preocupação com cenários de perda de controle sobre sistemas avançados.
A hipótese de extinção está associada, na literatura técnica, a cenários em que sistemas futuros adquiram capacidade cognitiva superior à humana em praticamente todas as tarefas relevantes e escapem dos mecanismos de supervisão existentes. A prevenção desses cenários é uma das atribuições declaradas das equipes de segurança dos grandes laboratórios.
Para profissionais e empresas que adotam rapidamente assistentes e agentes autônomos de inteligência artificial, a declaração chega como lembrete de que o avanço da tecnologia carrega incertezas ainda não resolvidas pela pesquisa. A velocidade de adoção comercial tem sido maior do que a velocidade de compreensão plena dos sistemas em produção.
Independentemente do número exato, o alerta reforça as pressões por regulação, auditoria independente e transparência sobre como os grandes modelos são testados antes de chegar ao público. Estimativas subjetivas de risco não são verificáveis de imediato, mas, quando emitidas por quem avalia esses perigos profissionalmente dentro de um dos principais laboratórios do mundo, alteram o tom do debate. A mensagem implícita é que a janela para tratar segurança como prioridade, e não como etapa burocrática, pode ser mais curta do que o setor costuma admitir.
