ESET ha confermato il 3° giorno di questa linea di analisi un cambio di fase: UAC-0099 ha usato GuardBreaker in un attacco reale in Ucraina per far scattare i filtri di sicurezza di un LLM e interrompere l’analisi del malware. Non è più solo una prova di tenuta dei modelli; è un modo operativo per farli fermare dove l’attaccante vuole.
Il trucco è semplice: un testo provocatorio viene nascosto nel file come commento, il sistema di sicurezza dell’LLM reagisce e smette di guardare il resto del codice. Così il modello diventa un filtro che blocca l’ispezione proprio sul punto utile all’attaccante, lasciando il contenuto malevolo fuori campo.
Per chi usa LLM per triage di codice, script o allegati, il rischio ora è strutturale: il blocco dell’analisi può essere provocato apposta. Questa storia sposta la fiducia dall’output dell’AI alla necessità di trattare quel blocco come una soppressione, non come una conclusione.
The state of AI for security: Measuring what matters most for building trust | Amazon Web Services
Security teams are starting to actively use AI for security work, including vulnerability triage, penetration testing, threat modeling, incident response, and code review. The promise is speed, but a security tool that moves fast and raises too many false alarms doesn’t save time. Engineers spend time on false alarms, on-call is noisier, and teams distrust […
Introducing the CyberAgents Exchange AI Inspector: Rigorous review for community-built AI
The CyberAgents Exchange AI Inspector adds a rigorous security review, giving teams a clear signal on which AI agents, skills, MCP servers, and multi-agent playbooks are safe to bring into their environment.