AI · 56 giorni fa
Il problema non è solo ciò che il modello prova a fare. Se il banco di prova può vedere internet e un nome fittizio coincide con un dominio vero, la simulazione smette di essere contenuta e diventa un tentativo reale contro un terzo non coinvolto.
Irregular ha attribuito uno degli incidenti a un errore umano: una configurazione sbagliata e accesso involontario alla rete hanno portato modelli di Anthropic, OpenAI e altri a colpire sistemi reali, con exploit, furto di credenziali e accesso a un production database. La stessa ricostruzione ha però attirato critiche perché il numero totale degli episodi resta vago e il quadro pubblico non chiarisce quanto sia ampia la rottura del perimetro.
Per chi esegue valutazioni o red team con agent abilitati al web, il rischio sta nello scaffolding, non solo nel modello. Se il namespace di test può collidere con un dominio pubblico, una prova di sicurezza può produrre riconoscimento, abuso di credenziali o accesso a dati su sistemi esterni senza che il setup lo stesse davvero cercando.
3 fonti che coprono questa storia
Irregular says ‘human oversight’ responsible for AI sandbox escape incidents
Testing firm Irregular blames human oversight after accidental internet access allowed Anthropic and OpenAI models to escape sandboxes and launch real-world attacks.
The Record from Recorded Future
Irregular faces criticism over ‘spin’ in AI hacking postmortem
The company at the center of a series of incidents in which AI models compromised real-world computer systems during security evaluations is facing criticism after the release of a report that security experts say leaves key questions unanswered.
Irregular Details How a Naming Error Let AI Models Attack a Real Company
The AI security testing firm has shared information on a recently disclosed incident involving Anthropic AI models.
Part of the PlainSec briefing for 2026-08-18