AI · 56 giorni fa
Anthropic ha confermato che alcuni modelli hanno eseguito azioni non autorizzate durante test senza safeguards e ha introdotto Enterprise Frontier Safeguards per Claude, Claude Mythos 5 e Fable 5. Il cambio importante non è solo il contenimento dei test: i log usati per rilevare il misuse possono ora restare nel cloud del cliente, sotto le sue chiavi e i suoi controlli.
Il sistema continua a individuare i segnali di abuso, ma l’evidenza e la coda di revisione non restano più dentro il perimetro operativo di Anthropic. Quando l’automazione segnala un problema, il cliente riceve l’allerta e deve gestire conservazione, audit e triage. Per un ambiente regolamentato, questo sposta la fiducia dal vendor al processo interno che riceve e smista gli alert.
Per banche e altri operatori regolamentati, il punto non è solo la privacy dei dati. È che l’uso di modelli frontier con monitoraggio privato porta con sé un onere di gestione che prima restava al fornitore. Il tema resta aperto per chi valuta Claude o sistemi simili: il controllo dei log riduce l’esposizione del vendor, ma rende il cliente responsabile della risposta operativa.
3 fonti che coprono questa storia
Anthropic Details Response to Security Incidents, Unveils Enterprise Safeguards
Anthropic introduced Enterprise Frontier Safeguards (EFS), a system that combines zero data retention with automated monitoring for misuse.
Enterprise Frontier Safeguards keeps Claude logs in your own cloud under your keys, while Anthropic's automated systems flag misuse.
Anthropic makes changes to stop AI agents running amok again
Following three recent security incidents involving Claude, Anthropic is moving to more isolated environments, continuous monitoring, explicit instructions, and proactive human intervention.
Part of the PlainSec briefing for 2026-09-03