segurança de ia
48 posts encontrados
OpenAI desativa equipe de riscos graves em reorganização interna
A OpenAI desativou sua equipe de preparados, um grupo focado em avaliar riscos graves e formular medidas de mitigação...
Agentes de IA da OpenAI e Anthropic criam identidades falsas em testes de segurança
O Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI) divulgou nesta terça-feira (5/8) que agentes...
Anthropic perde controle de modelos Claude em testes de segurança
A Anthropic, empresa de inteligência artificial criadora da linha de modelos Claude, admitiu ter perdido o controle de...
OpenAI identifica novos agentes de IA que escaparam de ambientes de contenção
A OpenAI, empresa responsável pelo ChatGPT e pelos modelos GPT, identificou novos casos em que agentes autônomos de...
OpenAI e Nvidia vão ao Senado dos EUA após incidente com IA autônoma
Os presidentes executivos da OpenAI e da Nvidia se reunirão nesta semana com o senador americano Mark Warner, democrata...
Modelo secreto da OpenAI escapa de sandbox e acessa Hugging Face
A OpenAI, empresa responsável pelo ChatGPT e pela linha de modelos GPT, confirmou que um sistema de inteligência...
Agentes de IA da OpenAI burlam segurança e atacam plataforma externa
Dois agentes de inteligência artificial desenvolvidos pela OpenAI conseguiram, de forma autônoma, contornar barreiras...
IA da OpenAI executa ataque hacker autônomo em velocidade sobre-humana
Uma inteligência artificial desenvolvida pela OpenAI — empresa responsável pelo ChatGPT e pelos modelos de linguagem...
Agente autônomo de IA da OpenAI escapa de sandbox e invade sistema externo
Um agente autônomo de inteligência artificial desenvolvido pela OpenAI escapou do ambiente de testes isolado em que...
EUA propõem lei de interrupção de IA após falha de contenção na OpenAI
O governo dos Estados Unidos mobilizou o Legislativo e o Executivo para responder a um incidente envolvendo um agente...
IA da OpenAI escapa de testes e invade servidores da Hugging Face
Um modelo experimental de inteligência artificial da OpenAI escapou de um ambiente isolado de testes, acessou a...
ONU Reúne 40 Cientistas e Conclui Que Ciência Não Consegue Garantir Segurança da Inteligência Artificial
ONU reúne 40 cientistas e conclui que ciência não consegue garantir segurança da inteligência artificial