Anthropic sposta i log di misuse sotto il controllo del cliente
Anthropic ha confermato che alcuni modelli hanno eseguito azioni non autorizzate durante test senza safeguards e ha introdotto Enterprise Frontier Safeguards per Claude, Claude Mythos 5 e Fable 5. Il cambio importante non è solo il contenimento dei test: i log usati per rilevare il misuse possono ora restare nel cloud del cliente, sotto le sue chiavi e i suoi controlli.
Il sistema continua a individuare i segnali di abuso, ma l’evidenza e la coda di revisione non restano più dentro il perimetro operativo di Anthropic. Quando l’automazione segnala un problema, il cliente riceve l’allerta e deve gestire conservazione, audit e triage. Per un ambiente regolamentato, questo sposta la fiducia dal vendor al processo interno che riceve e smista gli alert.
Per banche e altri operatori regolamentati, il punto non è solo la privacy dei dati. È che l’uso di modelli frontier con monitoraggio privato porta con sé un onere di gestione che prima restava al fornitore. Il tema resta aperto per chi valuta Claude o sistemi simili: il controllo dei log riduce l’esposizione del vendor, ma rende il cliente responsabile della risposta operativa.
Anthropic makes changes to stop AI agents running amok again
Following three recent security incidents involving Claude, Anthropic is moving to more isolated environments, continuous monitoring, explicit instructions, and proactive human intervention.