- AI가 웹 및 외부 앱과 연결되는 사례가 늘어남에 따라 프롬프트 인젝션(prompt injection) 위험이 높아지고 있습니다. 공격자는 악의적인 명령을 삽입하여 시스템을 속이거나 민감한 데이터를 탈취할 수 있습니다.
- OpenAI는 경영진이나 보안 팀과 같은 고위험군 사용자를 위한 선택적 고급 보안 모드인 ‘락다운 모드(Lockdown Mode)’를 ChatGPT에 도입했습니다.
- 락다운 모드는 프롬프트 인젝션을 통한 데이터 유출을 방지하기 위해 ChatGPT가 외부 시스템과 상호작용하는 방식을 엄격히 제한합니다.
- 예: 락다운 모드를 켜면 웹 브라우징 시 캐시된 콘텐츠만 사용하며, OpenAI 시스템 외부로 직접적인 네트워크 요청을 보내지 않습니다.
- 데이터 안전을 결정론적(deterministic) 수준으로 보장할 수 없는 일부 기능은 완전히 비활성화됩니다.
- 락다운 모드는 ChatGPT Enterprise, Edu, Healthcare, Teachers 플랜에서 사용할 수 있으며, 관리자는 워크스페이스 설정에서 이를 활성화하고 전용 역할을 생성할 수 있습니다.
- 관리자는 락다운 모드에서 허용되는 앱과 작업을 세부적으로 제어할 수 있으며, Compliance API Logs Platform을 통해 앱 사용 및 공유 데이터를 모니터링할 수 있습니다.
- OpenAI는 향후 몇 달 내에 개인 사용자에게도 락다운 모드를 확대 적용할 계획입니다.
- 이와 동시에, ChatGPT, ChatGPT Atlas, Codex에서 사이버 위험이 발생할 수 있는 특정 기능에 대해 ‘위험 상승(Elevated Risk)’ 라벨을 표준화합니다.
- Codex의 예: 에이전트에게 인터넷 접속 권한을 부여할 때 시스템은 Elevated Risk 경고를 표시하고, 보안 변경 사항 및 잠재적 위험을 설명합니다.
- 보안 조치가 충분히 강력해지면 OpenAI는 해당 기능에서 Elevated Risk 라벨을 제거할 예정입니다.
📌 결론: OpenAI는 특히 기업과 고위험군을 위해 네트워크 상호작용을 제한하고 프롬프트 인젝션을 통한 데이터 유출을 막는 ‘락다운 모드’를 추가했습니다. 또한, ‘Elevated Risk’ 라벨은 사용자가 웹이나 앱 연결 시 보안 위험이 있는 기능을 식별할 수 있게 돕습니다. 이는 AI가 인프라 및 민감 데이터와 밀접하게 결합되는 상황에서 투명성과 통제력을 강화하는 조치입니다.
