Anthropic apresenta o Enterprise Frontier Safeguards para conciliar privacidade e detecção de uso indevido em ambientes corporativos
A Anthropic anunciou nesta semana o Enterprise Frontier Safeguards (EFS), uma arquitetura voltada a clientes corporativos que busca combinar privacidade equivalente à retenção zero de dados com a detecção automatizada de uso indevido dos modelos de inteligência artificial. O sistema armazena os dados de monitoramento em infraestrutura de nuvem controlada pelo próprio cliente, e não nos servidores da Anthropic, enquanto a detecção permanece sob responsabilidade da empresa.
O anúncio marca uma tentativa da Anthropic de resolver um dilema que afetava grandes compradores corporativos de inteligência artificial. Equipes reguladas exigiam garantia de retenção zero de dados, para que nenhum prompt ou transcrição de agentes ficasse armazenado nos servidores do fornecedor. Ao mesmo tempo, equipes de segurança precisavam de detecção de uso indevido, o que historicamente exigia que o fornecedor mantivesse os dados por tempo suficiente para correlacionar atividades entre sessões e contas.
O EFS ainda não está disponível de forma ampla. A solução será distribuída em fases, com o objetivo de alcançar disponibilidade geral ainda neste outono, e o acesso será feito mediante solicitação. Enquanto o recurso não é liberado, clientes elegíveis podem utilizar os modelos Claude Fable 5 e Fable 5.1 sob o regime de retenção zero de dados.
A questão técnica que o EFS busca resolver está ligada à qualidade da detecção, e não ao uso de dados para treinamento. A própria Anthropic afirma nunca ter treinado seus modelos com dados corporativos sem permissão explícita. O argumento para reter informações por determinado período é restrito: os casos mais sofisticados de uso indevido identificados pela empresa se espalham por diversas tarefas, sessões e contas, incluindo situações que envolvem credenciais corporativas roubadas ou apropriadas indevidamente. Analisar automaticamente cada interação e descartá-la instantaneamente é insuficiente para identificar esse tipo de ataque, pois a correlação exige uma janela temporal de observação.
Esse padrão já foi documentado pela própria Anthropic em seu trabalho de combate a atividades de espionagem. Mesmo compreendendo a lógica de segurança, clientes regulados não conseguiam adotar modelos sujeitos à retenção de dados. A solução encontrada pela empresa foi deslocar a janela de retenção para o lado do cliente, em vez de simplesmente removê-la.
A arquitetura do EFS foi construída em colaboração com mais de cem clientes de setores como serviços financeiros, saúde, manufatura, telecomunicações, direito, varejo e setor público, além de provedores de nuvem como AWS, Google Cloud e Microsoft Azure. Entre os contribuidores estão o Analysis and Resilience Center for Systemic Risk, que reúne diretores de segurança da informação de instituições como Goldman Sachs, Morgan Stanley, Citi, Bank of America e Wells Fargo, além de equipes de empresas como Comcast, KPMG, Mastercard, Salesforce e Visa. Segundo a Anthropic, as conversas de design envolveram cerca de um quarto das cem maiores empresas da Fortune 100 e todos os bancos americanos classificados como globalmente sistematicamente importantes.
Três decisões de design surgiram desse processo. A primeira é a transferência do armazenamento para o cliente, o que significa que os dados de atividade utilizados para monitoramento passam a residir na própria conta de nuvem da empresa contratante, sob suas chaves de criptografia, políticas de acesso e registros de auditoria. Os clientes relataram à Anthropic que adicionar mais um fornecedor confiável de dados dispararia notificações internas e exigiria atualização de contratos, de modo que a arquitetura foi desenhada para evitar essa situação.
A segunda decisão transfere a revisão para o cliente. Quando o monitoramento identifica um padrão que merece análise, o alerta é enviado diretamente à empresa. A posição da Anthropic é que a revisão automatizada cuida da varredura inicial, mas uma pessoa ainda acrescenta valor ao confirmar usos indevidos reais e descartar falsos positivos, especialmente em ambientes regulados nos quais essa pessoa precisa estar habilitada para lidar com material jurídico privilegiado, informações não públicas ou relatórios de segurança de medicamentos. No EFS, a triagem automatizada é executada sem necessidade de revisão humana por parte da Anthropic.
A terceira decisão mantém a detecção com a Anthropic. Sistemas automatizados analisam uma janela móvel de tráfego em busca de uso indevido grave, especificamente tentativas de construção de capacidade ofensiva cibernética ou biológica e sinais de credenciais roubadas ou vazadas.
O EFS faz parte de um conjunto de três concessões corporativas divulgadas junto com os lançamentos do Claude Fable 5.1 e do Mythos 5.1. As outras duas dizem respeito a preço e precisão. O Fable 5.1 reduziu em 75% o custo de leitura em cache, chegando a 0,25 dólar por milhão de tokens, o que representa uma redução de cerca de 25% no custo em cargas de trabalho típicas e de até 45% em cargas altamente agênticas. Os mecanismos de segurança cibernética do modelo passaram a produzir cerca de 60% menos intervenções por sessão no Claude Code em comparação ao Fable 5, partly porque o Fable 5.1 está autorizado a identificar vulnerabilidades de software sem desenvolver explorações.
Na prática, o EFS permite que os dados de atividade fiquem armazenados no próprio bucket da empresa contratante, seja no S3 da Amazon, no Azure Blob da Microsoft ou no Google Cloud Storage. Alertas são direcionados ao cliente, sem revisão humana obrigatória da Anthropic. O armazenamento sob custódia do cliente, as chaves gerenciadas pelo cliente e a revisão automatizada são opcionais. A empresa não cobra pelo EFS, ficando o custo de armazenamento e tráfego sob responsabilidade do provedor de nuvem contratado pelo cliente.
