Un warning nel prompt ferma la propaganda tra agenti
Un file di memoria persistente può trasformare un reset di sessione in un canale di infezione tra agenti. Anthropic ed EPFL mostrano che un payload scritto da un agente può passare al successivo attraverso i prompt file che il sistema porta avanti tra una sessione e l'altra, senza toccare codice o rete.
Il meccanismo è semplice: ciò che un agente salva in un file viene reinserito nel system prompt della sessione seguente, quindi una nota malevola può diventare istruzione permanente per il prossimo agente, come se fosse parte della sua memoria. Nei test, un warning di una sola frase nel system prompt ha ridotto la propagazione quasi a zero, segno che il punto di controllo è il livello del prompt, non il solo sandbox.
Per chi costruisce o gestisce agenti autonomi con memoria persistente o file di prompt modificabili, il confine di fiducia cambia: la persistenza dello stato diventa superficie d'attacco anche quando codice e rete restano isolati. Il rischio non è teorico sul piano architetturale; oggi è una questione di quanto i guardrail sul prompt vengano trattati come parte della difesa, non come un dettaglio di configurazione.