Sicurezza AI · Attacco basato su AI
Structured Outputs Can Smuggle Malicious Payloads Un modello può rifiutare il prompt e comunque trasmettere il pericolo a valle. La rottura non è nella risposta testuale in sé. È nella struttura nascosta, dove istruzioni malevole possono viaggiare all’interno di JSON dall’aspetto benigno e sopravvivere ai controlli basati solo sulla semantica.
1 fonte · 18 mag
Cronologia Fonti 18 mag SentinelOne
Breaking the Black Box: A Case Study in Red-Teaming a Government Education AI
In a new red-teaming exercise, social engineering moved to advanced tunneling attacks, revealing a critical lesson in today's AI security.
originale Part of the PlainSec briefing for 2026-05-18
Every edition of this story: Structured Outputs Can Smuggle Malicious Payloads
Sicurezza AI · Attacco basato su AI
Structured Outputs Can Smuggle Malicious Payloads Un modello può rifiutare il prompt e comunque trasmettere il pericolo a valle. La rottura non è nella risposta testuale in sé. È nella struttura nascosta, dove istruzioni malevole possono viaggiare all’interno di JSON dall’aspetto benigno e sopravvivere ai controlli basati solo sulla semantica.
1 fonte · 18 mag
Cronologia Fonti 18 mag SentinelOne
Breaking the Black Box: A Case Study in Red-Teaming a Government Education AI
In a new red-teaming exercise, social engineering moved to advanced tunneling attacks, revealing a critical lesson in today's AI security.
originale Part of the PlainSec briefing for 2026-05-18
Every edition of this story: Structured Outputs Can Smuggle Malicious Payloads