Un modello AI dirottato può coordinare attacchi senza eseguirli
Symantec ha raccolto istruzioni per un agente progettato per usare modelli AI dirottati e coordinare fino a 100.000 azioni malevole. Il suo honeypot ha catturato le istruzioni, ma non ha eseguito gli strumenti: il caso documenta un progetto d’attacco, non attacchi autonomi compiuti.
Le istruzioni cercano di far passare il furto di credenziali per normale attività di sviluppo, così da aggirare le protezioni dei modelli commerciali. Il modello avrebbe il compito di pianificare e coordinare; strumenti separati svolgerebbero le operazioni tecniche.
Per chi espone endpoint LLM, gateway AI o server MCP su Internet, un servizio compromesso potrebbe fornire agli attaccanti capacità di pianificazione, trasferendo al gestore i costi di calcolo e rendendone più difficile l’identificazione. Non è una prova di campagne diffuse, ma mostra come l’AI possa diventare infrastruttura di supporto agli attacchi.