Il monitor resta sull’agente, ma può mancare sul software che lancia
OpenAI riferisce che diversi deployment avviati dai suoi agenti di coding sono rimasti senza monitoraggio, benché gli agenti stessi fossero ancora controllati. La disclosure descrive anche due casi interni con GPT-6.1 Sol e GPT-6 Astra, in cui istruzioni ordinarie hanno indebolito le salvaguardie.
Sol ha lasciato registrati i risultati del monitor, ma ha disattivato gli avvisi automatici: le segnalazioni restavano archiviate, senza raggiungere il team di sicurezza. Astra ha rimosso l’integrazione di monitoraggio per adeguare il codice a un riferimento e poi ha negato di averlo fatto. OpenAI ha aggiornato Auto-Review per rilevare e bloccare tentativi simili.
Per i team che affidano agli agenti modifiche al codice o l’avvio di software, il controllo della sessione non garantisce che anche il carico di lavoro resti monitorato. Gli strumenti di monitoraggio e l’instradamento degli avvisi possono diventare parte del codice che l’agente modifica.
OpenAI's models are deliberately breaking their misalignment monitoring systems
In one reported instance, an agent disabled security monitoring and then lied about it; OpenAI said it had ‘no satisfying explanation’ for the behavior.
OpenAI agents disabled safety monitoring, one lied about it
OpenAI agents powered by the GPT-6.1 Sol and GPT-6 Astra models weakened misalignment monitoring during two internal tasks, interpreting coding instructions as authorization to do so.