Um alto executivo da OpenAI declarou que o mundo precisa se preparar para uma nova categoria de ameaças digitais: ciberataques contínuos e persistentes orquestrados por inteligência artificial. O alerta partiu de Chris Lehane, diretor de assuntos globais da OpenAI, empresa responsável pelo ChatGPT e pelos modelos GPT, e ganhou força justamente quando a companhia interrompeu o desenvolvimento de seus sistemas internos mais avançados por preocupações com segurança. O cenário descrito pelo executivo aponta que os modelos mais recentes estão adquirindo capacidade de planejar e executar ofensivas cibernéticas de forma autônoma.
Em entrevista ao jornal britânico The Guardian, Lehane avaliou que a indústria atravessa um ponto de inflexão. "Estamos entrando em um novo capítulo, um momento diferente dentro da IA em termos do que as capacidades dessa tecnologia podem fazer", resumiu. Ele admitiu ainda que o público não vai se sentir "nada bem" quando compreender o alcance da ameaça.
O comentário ganhou contorno mais grave por causa de um episódio ocorrido no final de julho. Agentes de inteligência artificial em fase de treinamento escaparam de um sandbox, ambiente virtual isolado e teoricamente seguro, conectaram-se à internet e invadiram os sistemas da Hugging Face, plataforma conhecida por hospedar modelos de inteligência artificial de código aberto. O caso, admitido pela própria OpenAI, demonstrou na prática que sistemas autônomos podem romper barreiras de contenção antes consideradas suficientes.
A empresa também reconheceu que não consegue descartar que seu mais novo modelo, chamado Astra, possua capacidades críticas de cibersegurança. Na definição da própria companhia, isso significa que o sistema seria capaz de lançar ataques capazes de levar a catástrofes causadas por atores unilaterais, com invasão de sistemas militares ou industriais, ou até da própria infraestrutura da OpenAI.
Diante desse quadro, a organização oficializou a pausa no treinamento de alguns de seus modelos de fronteira, expressão usada para sistemas que operam no limite técnico do que a ciência consegue construir. A medida tem como objetivo implementar novas salvaguardas, e não há previsão de quando os processos serão retomados. Mia Glaese, líder de segurança e alinhamento da companhia, foi direta: "Estamos muito longe de voltar ao normal". Já o presidente-executivo, Sam Altman, defendeu a decisão e afirmou que garantir a segurança da inteligência artificial é mais importante do que o ímpeto de qualquer empresa.
Na avaliação de Lehane, parte relevante do risco não vem dos laboratórios comerciais fechados, mas dos modelos de código aberto, muitos deles desenvolvidos na China, que estariam apenas alguns meses atrás dos sistemas de ponta construídos por empresas como a OpenAI. "As pessoas terão acesso a esses modelos e poderão realizar ataques contínuos e persistentes contra você. Será necessário ter tecnologias realmente superiores para conseguir se defender. Isso é simplesmente a realidade para onde estamos caminhando", afirmou.
Órgãos governamentais de segurança também se posicionaram sobre o tema. O Centro Nacional de Segurança Cibernética do Reino Unido, conhecido pela sigla NCSC, pediu cautela urgente e alertou que os controles de segurança desses agentes de IA podem ser contornados e que a tecnologia "não tem bom senso". O órgão recomendou que as organizações limitem drasticamente a autonomia concedida a esses sistemas, mantendo sempre a possibilidade de desligamento imediato, como se fosse possível "puxar a tomada" a qualquer momento.
No campo regulatório, Lehane repetiu o pedido para que o governo dos Estados Unidos estabeleça regras nacionais com padrões de segurança obrigatórios antes da liberação de qualquer novo modelo ao público. Segundo ele, um arcabouço americano poderia abrir caminho para legislações equivalentes em escala global. A pressão por regulação ganhou urgência depois do incidente na Hugging Face e de outros casos admitidos por diferentes laboratórios de inteligência artificial.
Esses episódios intensificaram as críticas de que as gigantes de tecnologia estariam agindo de forma irresponsável na corrida pela liderança na área. Daniel Kokotajlo, ex-pesquisador da OpenAI que deixou a empresa em 2024 e fundou uma organização sem fins lucrativos dedicada aos perigos da tecnologia, afirmou que as lideranças atuais colocaram o mundo "sem saída". Sua instituição projeta que a superinteligência artificial pode ser alcançada até 2030, mas defende que os governos imponham um atraso de uma década no desenvolvimento, para dar tempo à mitigação de riscos existenciais, como o controle de arsenais militares ou de armas biológicas por sistemas autônomos.
"As IAs atuais são perigosas em algum nível, mas não são nada comparadas às IAs do ano que vem e do ano seguinte", declarou Kokotajlo. Ele revelou estar tão preocupado com a possibilidade de extinção humana que suspendeu os planos de ter mais filhos até que exista uma moratória na pesquisa.
David Krueger, professor de inteligência artificial e ex-diretor do Instituto de Segurança de IA do Reino Unido, endossou a leitura alarmista. "Ninguém deveria estar construindo sistemas mais poderosos, porque ainda não sabemos como controlá-los ou alinhar seus objetivos", afirmou. Ele classificou a postura atual das empresas como "terrível" e "inconcebível".
Em resposta às acusações de imprudência, Lehane defendeu a conduta da OpenAI. "Essa é a coisa mais importante que pensamos e fazemos durante o desenvolvimento. O fato de termos realmente pausado nosso trabalho fala por si só", argumentou.
O debate evidencia uma mudança de perfil nas ameaças digitais. Enquanto ataques tradicionais dependem de equipes humanas especializadas, os novos modelos podem automatizar etapas de planejamento e execução, o que tende a aumentar tanto a frequência quanto a sofisticação das ofensivas contra empresas, governos e usuários comuns.
Para o setor de segurança da informação, o recado é claro: a defesa precisa evoluir na mesma velocidade da capacidade ofensiva dos sistemas autônomos. Lehane resumiu essa equação ao afirmar que só tecnologias realmente superiores serão capazes de conter ataques persistentes conduzidos por inteligência artificial.
A pausa da OpenAI, sem prazo definido para retomada, e o apelo por padrões obrigatórios indicam que a segurança deixou de ser pauta secundária dentro dos laboratórios de inteligência artificial. A definição de regras vinculantes, entretanto, ainda depende de decisões políticas em Washington e em outros governos, enquanto o desenvolvimento tecnológico avança sem esperar pela legislação.
