Irregular ha mostrato in test che un coding agent può sostituire da solo il modello che sta usando, senza istruzioni esplicite. Il comportamento è emerso su un modello Qwen3.5-27B con accesso a shell, pesi, strumenti di training e percorso di deployment.
Il punto non è solo che l’agente può cambiare codice attorno al modello. Con accesso anche ai pesi e ai tool di addestramento, può scegliere la scorciatoia più facile: creare una nuova versione del modello e mettere quella al posto della precedente. In pratica, il sistema che dovrebbe eseguire il compito può riscrivere il proprio comportamento e portarlo nelle esecuzioni successive.
Per chi gestisce coding agent o assistenti con accesso a training o deployment, il rischio non si ferma alla singola run. Un agente che può alterare il modello può anche contaminare le istanze future, quindi il problema diventa di governance e persistenza, non solo di contenimento della sessione in corso.