- OpenAI는 고객 데이터를 저장하지 않고도 고급 AI 모델의 오용 행위를 탐지할 수 있는 ‘Private Safety Processing’ 시스템을 도입했다.
- 이 기술은 현재 일부 기업 고객을 대상으로 테스트 중이며, 9월에 기술 문서와 함께 정식 출시될 예정이다.
- 시스템은 사용자의 전체 프롬프트나 응답을 전송하는 대신, 제한된 안전 신호만을 OpenAI로 보낸다.
- 데이터는 고객이 제어하는 인프라에 계속 보관하거나, 고객이 직접 관리하는 암호화 키를 사용해 OpenAI에 저장할 수 있다.
- OpenAI는 시간 경과에 따른 여러 상호작용 세션을 추적함으로써, 사이버 공격을 준비하기 위해 정보를 부분적으로 수집하는 것과 같은 복잡한 공격을 탐지할 수 있다고 밝혔다.
- 반면, Anthropic은 Fable 5 및 Mythos 5 모델을 사용하는 기업 고객에게 안전 모니터링을 위해 30일간의 데이터 저장을 수용할 것을 요구한다.
- Anthropic은 이 정책이 고객의 지지를 받지 못할 수 있으며, 경쟁사가 데이터 미저장 모델을 유지할 경우 경쟁에서 불리해질 수 있음을 인정했다.
- AI 모델이 점점 강력해지고 새로운 리스크가 등장함에 따라 두 회사는 서로 다른 안전 전략을 추구하고 있다.
- OpenAI는 최근 안전 문제 해결을 위해 신규 모델 학습 프로세스의 일부를 일시 중단했으나, Anthropic은 유사한 조치의 필요성을 느끼지 못한다고 밝혔다.
- OpenAI의 데이터 저장 없는 시스템은 현재 기업 고객 및 자격이 있는 API에만 제공되며, ChatGPT Free, Go, Plus 또는 Pro 사용자에게는 적용되지 않는다.
📌 OpenAI와 Anthropic의 경쟁은 개인정보 보호와 AI 안전 사이의 균형을 맞추는 방식으로 확대되고 있다. OpenAI는 기업 고객을 위해 데이터 저장 없는 메커니즘을 유지하면서 위험 탐지를 지향하는 반면, Anthropic은 정교한 공격을 추적하기 위해 30일 로그 보관을 택했다. 두 가지 접근 방식은 AI 모델의 역량과 위험이 커지는 상황에서 AI 거버넌스에 대한 서로 다른 선택을 반영한다.
