Sicurezza AI
Pochi neuroni possono armare un agente AI dall’interno Microsoft ha dimostrato su tre modelli open-weight che modificare meno di dieci neuroni può indurre un agente a produrre un comando scelto dall’attaccante. Se l’agente lo esegue, il comando agisce con i suoi permessi.
I neuroni modificati restano quasi inattivi durante l’uso normale e si attivano quando compare una frase specifica, anche nella risposta di uno strumento. Nei test su Nemotron, il comando è comparso nel 98,8% delle sessioni con il trigger e in nessuna di quelle senza trigger esaminate.
Microsoft non ha osservato attori di minaccia usare questa tecnica. Un modello può quindi superare le normali verifiche comportamentali pur nascondendo una backdoor nei pesi; il danno possibile dipende dai permessi dell’agente che lo utilizza.
4 fonti · 11 nov
Cronologia Fonti 11 nov CSO Online
Rewriting less than 10 neurons in an LLM can turn it into a sleeper backdoor
Microsoft researchers say a handful of rewritten neurons can let a model pass every test and then hand an attacker the agent’s access.
originale 11 nov Help Net Security
Microsoft researchers demonstrate hidden backdoor technique for AI agents - Help Net Security
Microsoft shows how hidden AI backdoors evade safety tests and why sleeper agent detection requires auditing model weight changes.
originale 11 nov The Hacker News
Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons
Microsoft demonstrates how editing as few as six AI model neurons can plant backdoors that trigger command execution by agents.
originale Part of the PlainSec briefing for 2026-11-12
Every edition of this story: Pochi neuroni possono armare un agente AI dall’interno
Sicurezza AI
Pochi neuroni possono armare un agente AI dall’interno Microsoft ha dimostrato su tre modelli open-weight che modificare meno di dieci neuroni può indurre un agente a produrre un comando scelto dall’attaccante. Se l’agente lo esegue, il comando agisce con i suoi permessi.
I neuroni modificati restano quasi inattivi durante l’uso normale e si attivano quando compare una frase specifica, anche nella risposta di uno strumento. Nei test su Nemotron, il comando è comparso nel 98,8% delle sessioni con il trigger e in nessuna di quelle senza trigger esaminate.
Microsoft non ha osservato attori di minaccia usare questa tecnica. Un modello può quindi superare le normali verifiche comportamentali pur nascondendo una backdoor nei pesi; il danno possibile dipende dai permessi dell’agente che lo utilizza.
4 fonti · 11 nov
Cronologia Fonti 11 nov CSO Online
Rewriting less than 10 neurons in an LLM can turn it into a sleeper backdoor
Microsoft researchers say a handful of rewritten neurons can let a model pass every test and then hand an attacker the agent’s access.
originale 11 nov Help Net Security
Microsoft researchers demonstrate hidden backdoor technique for AI agents - Help Net Security
Microsoft shows how hidden AI backdoors evade safety tests and why sleeper agent detection requires auditing model weight changes.
originale 11 nov The Hacker News
Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons
Microsoft demonstrates how editing as few as six AI model neurons can plant backdoors that trigger command execution by agents.
originale Part of the PlainSec briefing for 2026-11-12
Every edition of this story: Pochi neuroni possono armare un agente AI dall’interno