- À mesure que l’IA se connecte au web et aux applications externes, le risque d’injection de prompt augmente : les attaquants peuvent insérer des commandes malveillantes pour tromper le système ou voler des données sensibles.
- OpenAI introduit le Lockdown Mode (Mode Verrouillage) dans ChatGPT – un mode de sécurité avancé, optionnel pour les utilisateurs à haut risque comme les dirigeants ou les équipes de sécurité.
- Le Lockdown Mode limite strictement la manière dont ChatGPT interagit avec les systèmes externes afin d’empêcher les fuites de données via injection de prompt.
- Exemple : lorsque le Lockdown Mode est activé, la navigation web utilise uniquement du contenu mis en cache et n’envoie aucune requête réseau directe hors du système OpenAI.
- Certaines fonctionnalités sont totalement désactivées si la sécurité des données ne peut être garantie à un niveau déterministe (deterministic).
- Le Lockdown Mode est disponible pour les forfaits ChatGPT Enterprise, Edu, Healthcare et Teachers ; les administrateurs peuvent l’activer dans les paramètres de l’espace de travail et créer des rôles spécifiques.
- Les administrateurs peuvent contrôler précisément quelles applications et actions sont autorisées en Lockdown Mode ; la plateforme Compliance API Logs permet de surveiller l’utilisation des apps et les données partagées.
- OpenAI prévoit d’étendre le Lockdown Mode aux utilisateurs individuels dans les prochains mois.
- Parallèlement, l’entreprise standardise le label « Elevated Risk » (Risque Élevé) pour certaines fonctionnalités pouvant engendrer des cyber-risques dans ChatGPT, ChatGPT Atlas et Codex.
- Exemple dans Codex : lors de l’octroi d’un accès internet à un agent, le système affiche un avertissement Elevated Risk, expliquant les changements de sécurité et les dangers potentiels.
- Lorsque les mesures de sécurité seront jugées suffisamment robustes, OpenAI retirera le label Elevated Risk des fonctionnalités correspondantes.
📌 Conclusion : OpenAI ajoute le Lockdown Mode pour limiter les interactions réseau et prévenir les fuites de données par injection de prompt, particulièrement pour les entreprises et les groupes à risque. Parallèlement, le label Elevated Risk aide les utilisateurs à identifier les fonctionnalités présentant des risques de sécurité lors de la connexion au web ou aux apps. C’est une étape vers plus de transparence et de contrôle, alors que l’IA s’intègre de plus en plus aux infrastructures et aux données sensibles.
