ESET ha confermato il 3° giorno di questa linea di analisi un cambio di fase: UAC-0099 ha usato GuardBreaker in un attacco reale in Ucraina per far scattare i filtri di sicurezza di un LLM e interrompere l’analisi del malware. Non è più solo una prova di tenuta dei modelli; è un modo operativo per farli fermare dove l’attaccante vuole.
Il trucco è semplice: un testo provocatorio viene nascosto nel file come commento, il sistema di sicurezza dell’LLM reagisce e smette di guardare il resto del codice. Così il modello diventa un filtro che blocca l’ispezione proprio sul punto utile all’attaccante, lasciando il contenuto malevolo fuori campo.
Per chi usa LLM per triage di codice, script o allegati, il rischio ora è strutturale: il blocco dell’analisi può essere provocato apposta. Questa storia sposta la fiducia dall’output dell’AI alla necessità di trattare quel blocco come una soppressione, non come una conclusione.
Security teams are starting to actively use AI for security work, including vulnerability triage, penetration testing, threat modeling, incident response, and code review. The promise is speed, but a security tool that moves fast and raises too many false alarms doesn’t save time. Engineers spend time on false alarms, on-call is noisier, and teams distrust […
The CyberAgents Exchange AI Inspector adds a rigorous security review, giving teams a clear signal on which AI agents, skills, MCP servers, and multi-agent playbooks are safe to bring into their environment.
Unchecked AI agents might be your worst insider threats. Security practitioners offer real-world insights on how security teams can reduce the risk and impact of rogue agent activity.