- Con la crescente connessione dell’IA al web e alle app esterne, aumenta il rischio di prompt injection: gli aggressori possono inserire comandi dannosi per ingannare il sistema o rubare dati sensibili.
- OpenAI introduce la modalità Lockdown in ChatGPT, una modalità di sicurezza avanzata e opzionale per utenti ad alto rischio come dirigenti o team di sicurezza.
- La modalità Lockdown limita rigorosamente il modo in cui ChatGPT interagisce con i sistemi esterni per prevenire fughe di dati tramite prompt injection.
- Esempio: quando la modalità Lockdown è attiva, la navigazione web utilizza solo contenuti memorizzati nella cache, senza inviare richieste di rete dirette all’esterno del sistema OpenAI.
- Alcune funzionalità vengono disabilitate completamente se non è possibile garantire la sicurezza dei dati a un livello deterministico.
- La modalità Lockdown è disponibile per i piani ChatGPT Enterprise, Edu, Healthcare e Teachers; gli amministratori possono abilitarla nelle impostazioni del Workspace e creare ruoli specifici.
- Gli admin possono controllare in modo granulare quali app e azioni sono consentite nella modalità Lockdown; la piattaforma Compliance API Logs fornisce il monitoraggio dell’uso delle app e dei dati condivisi.
- OpenAI prevede di estendere la modalità Lockdown agli utenti individuali nei prossimi mesi.
- Parallelamente, l’azienda sta standardizzando l’etichetta “Elevated Risk” (Rischio Elevato) per alcune funzionalità che potrebbero comportare rischi informatici in ChatGPT, ChatGPT Atlas e Codex.
- Esempio in Codex: quando si concede l’accesso a Internet a un agente, il sistema visualizza un avviso di Elevated Risk, spiegando le modifiche alla sicurezza e i potenziali pericoli.
- Quando le misure di sicurezza saranno sufficientemente robuste, OpenAI rimuoverà l’etichetta Elevated Risk dalle funzionalità corrispondenti.
📌 Conclusione: OpenAI aggiunge la modalità Lockdown per limitare le interazioni di rete e prevenire la fuga di dati tramite prompt injection, specialmente per le aziende e i gruppi ad alto rischio. Allo stesso tempo, l’etichetta Elevated Risk aiuta gli utenti a identificare le funzionalità con rischi di sicurezza durante la connessione al web o alle app. Si tratta di un passo avanti nel rafforzamento della trasparenza e del controllo, mentre l’IA si integra sempre più con le infrastrutture e i dati sensibili.
