Gli agent AI spostano il rischio sul trust delle tool
Il punto debole non è più il testo del prompt, ma il confine di fiducia tra agente e tool. Quando un AI agent può agire davvero, descrizioni di tool avvelenate possono fargli compiere azioni autorizzate solo in apparenza, con effetti concreti su mail, documenti, calendari e sistemi aziendali.
Microsoft Incident Response descrive questo passaggio per Microsoft 365 Copilot, Copilot Studio e Azure AI Foundry: da assistenti che leggono e sintetizzano a agenti che eseguono azioni per conto dell’utente. Il riferimento è al Model Context Protocol e alla supply chain dei tool, non al modello in sé; per questo la difesa deve concentrarsi su governance dei connector, descrizioni dei tool e permessi degli agenti, con controlli Microsoft per rilevare, contenere e prevenire l’abuso.
Per chi gestisce ambienti con agenti read-write, il rischio pratico è che una fiducia legittima diventi un canale di abuso o data loss senza che il testo generato appaia anomalo. Il problema non è convincere il modello, ma farlo fidare del tool sbagliato.