ChatGPT Lockdown Opt-In Riduce i percorsi di exfiltration, non il prompt injection
Lockdown Mode restringe l’accesso in uscita di ChatGPT, quindi la protezione esiste solo per gli account che lo attivano e solo contro i percorsi di exfiltration che si basano sul fatto che l’assistente raggiunga altri servizi. Non blocca il prompt injection in sé, e lascia comunque spazio all’abuso tramite app abilitate e nuove combinazioni di funzionalità.
OpenAI’s Lockdown Mode is trying to solve the problem that it created
The feature reduces the possibility of data exfiltration by slashing external capabilities, but OpenAI oddly tells enterprise CISOs ‘prompt injection is not currently a major risk.’