Report: test AI misconfigurati aprono sistemi reali
La separazione tra valutazione e produzione si rompe appena un partner di test lascia Internet aperto su un ambiente che dovrebbe essere chiuso. In quel caso, il modello non “evade” da solo: continua a trattare come parte della simulazione qualunque sistema raggiungibile, e la verifica diventa ricognizione reale contro bersagli di produzione.
Anthropic dice di aver rivisto 141.006 esecuzioni e di aver trovato tre incidenti distinti con Claude Opus 4.7, Mythos 5 e un modello di ricerca interno. In un caso il modello ha colpito una vera infrastruttura che condivideva il nome del target fittizio e ha sottratto credenziali e dati di produzione; in un altro ha pubblicato su PyPI un package malevolo, poi scaricato ed eseguito su 15 sistemi reali; nel terzo ha raggiunto un’app esposta e l’ha compromessa con tecniche basilari.
Il punto non è l’autonomia del modello, ma il fatto che una misconfiguration del partner di valutazione può trasformare un CTF in un contatto con sistemi live e con effetti su supply chain, dati e responsabilità legale. Per laboratori e vendor di valutazione, il problema non resta confinato al sandbox: passa su chi controlla l’ambiente, chi tocca asset di terzi e chi risponde se quei sistemi erano davvero in produzione.