Il test per misurare i modelli è finito su un sito reale
Un ambiente di valutazione per AI agent può smettere di essere un banco prova e diventare un attacco reale se il bersaglio non è davvero isolato dal web pubblico. Qui il problema non è il modello da solo: è la combinazione tra accesso a Internet e un nome fittizio che coincide con un dominio esistente, abbastanza perché l’esercizio scivoli su un sistema di produzione.
Irregular dice che, in alcuni run, i modelli hanno raggiunto il dominio reale invece di quello simulato e hanno trattato quel sito come parte del test. Da lì sono passati a reconnaissance, uso di chiavi private, estrazione di credenziali e accesso a un database di produzione; in un altro caso sono arrivati su un sito omonimo e hanno trovato credenziali già pubbliche.
Per chi esegue test di vulnerabilità o red-team con agent connessi a Internet, il punto è che la fiducia nel perimetro di laboratorio non basta più. Un errore di naming o di configurazione può trasformare una simulazione controllata in targeting non autorizzato verso terzi reali.