L’AI entra nella difesa, e diventa un rischio da gestire
Il governo britannico sta estendendo l’uso di frontier model per cercare vulnerabilità nei sistemi pubblici e, nello stesso tempo, sta preparando misure di incident response per l’AI autonoma. I pilot già attivi hanno aiutato a trovare e correggere oltre 1.000 potenziali vulnerabilità, e un altro programma interno ha portato alla luce più di 400 flaw poi patchate.
Il punto non è solo che l’AI accelera la ricerca dei difetti. È che un agente capace di agire con supervisione limitata può anche sbagliare in autonomia, e un errore del modello può propagarsi più in fretta e su un raggio più ampio di un incidente convenzionale. Per questo NCSC e AI Security Institute stanno lavorando su modi per contenere incidenti, near miss e rischi di perdita di controllo.
Per i team pubblici e per chi gestisce servizi essenziali, il cambio di scenario è questo: l’AI non è solo uno strumento di supporto alla difesa, ma un componente operativo che può diventare esso stesso fonte di esposizione. La questione aperta non è se migliori il fixing, ma come si gestisce il guasto del sistema che fa il fixing.