A Anthropic anunciou oficialmente o lançamento do Enterprise Frontier Safeguards (EFS), uma solução que combina a privacidade de Zero Data Retention (ZDR) com avançadas garantias de deteção de abusos. O EFS funciona armazenando dados numa infraestrutura em nuvem controlada pelo cliente, em vez de ser controlada pela Anthropic. O EFS será lançado em fases para os clientes, com planos para começar mais tarde neste outono. Para garantir uma transição suave, os clientes elegíveis receberão suporte ZDR para o Fable 5 e Fable 5.1 antes de o EFS estar pronto.
O EFS foi concebido a pensar nas necessidades dos clientes
A Anthropic afirma que o EFS foi desenvolvido em estreita colaboração com mais de 100 clientes de setores como serviços financeiros, saúde, manufatura, telecomunicações, jurídico, retalho e setor público, e foi projetado em conjunto com parceiros de nuvem como Amazon Web Services, Google Cloud e Microsoft Azure.
Resolvendo o desafio da segurança de vanguarda
De acordo com o comunicado oficial, à medida que os modelos da classe Mythos (como o Claude Fable 5.1) aumentam significativamente a sua inteligência e capacidades autónomas, surgem potenciais riscos de abusos e comportamentos inadequados. A Anthropic mencionou que, nos últimos meses, foram observadas evidências substanciais de abusos de modelos de IA, incluindo fraudes e ataques cibernéticos complexos, que podem envolver o roubo ou uso indevido de credenciais de clientes empresariais, comportamentos que são difíceis de detectar sem monitorização de tráfego e deteção de comportamentos anómalos.
“A deteção eficaz requer o armazenamento de dados durante um período significativo, para que seja possível fazer correlações ao longo do tempo e entre contas.”
Anthropic
Assim, a Anthropic começou a introduzir uma política de retenção de dados de 30 dias no Fable 5, uma política que não é motivada pelo desejo de treinar dados empresariais, uma vez que a Anthropic nunca usou dados empresariais para treinar modelos sem permissão explícita e não o fará no futuro.
Os clientes controlam o armazenamento e a gestão de dados
No EFS, os clientes podem controlar o armazenamento e a gestão dos seus dados. Os clientes desejam poder armazenar dados numa infraestrutura sob o seu controlo, utilizando as suas próprias chaves de encriptação, políticas de acesso e registos de auditoria. Os dados de atividade utilizados para monitorização podem ser armazenados nas contas de nuvem dos clientes, como Amazon S3, Azure Blob Storage ou Google Cloud Storage.
“A monitorização de segurança automática do EFS não requer revisão manual pela Anthropic.”
Anthropic
Os clientes desejam proteção contra ataques cibernéticos e reconhecem que esses ataques podem ser muito difíceis de detectar se ocorrerem em várias sessões e contas. O sistema automático do EFS analisa janelas de tráfego em rotação para detetar sinais de abusos graves, incluindo tentativas de desenvolver capacidades de rede ou biológicas ofensivas, bem como sinais de credenciais roubadas ou expostas. Estes alertas serão enviados diretamente aos clientes, que serão responsáveis pelo seguimento, sem necessidade de revisão manual por parte dos funcionários da Anthropic.
Plano de lançamento do EFS
O Enterprise Frontier Safeguards será lançado em fases para os clientes, com o objetivo de estar amplamente disponível neste outono. Se os clientes desejarem solicitar acesso ao EFS, devem preencher o formulário relevante. A Anthropic enfatiza que a utilização do EFS não alterará o comportamento do modelo, os preços da API ou os limites de taxa, e não cobrará taxas adicionais aos clientes.
Fonte: Anúncio oficial da Anthropic