- OpenAI представила систему Private Safety Processing, которая позволяет обнаруживать нарушения в продвинутых моделях ИИ без необходимости хранения данных клиентов.
- Технология в настоящее время тестируется рядом корпоративных клиентов перед широким выпуском и публикацией технической документации в сентябре.
- Система отправляет в OpenAI только ограниченные сигналы безопасности вместо передачи полных запросов или ответов пользователей.
- Данные могут оставаться в инфраструктуре, контролируемой клиентом, или храниться в OpenAI с использованием ключей шифрования, которыми управляет сам клиент.
- OpenAI заявляет, что отслеживание нескольких сессий взаимодействия с течением времени помогает обнаруживать сложные атаки, например, когда пользователи собирают информацию по частям для подготовки кибератаки.
- Anthropic, напротив, требует от корпоративных клиентов, использующих модели Fable 5 и Mythos 5, согласия на хранение данных в течение 30 дней для мониторинга безопасности.
- Anthropic признает, что эта политика может не получить поддержки у клиентов и создать конкурентный недостаток, если конкуренты сохранят модель без хранения данных.
- Компании преследуют две разные стратегии безопасности по мере того, как модели ИИ становятся мощнее и появляются новые риски.
- OpenAI также недавно приостановила часть процесса обучения новых моделей для решения вопросов безопасности, в то время как Anthropic заявила, что не видит необходимости в подобных мерах.
- Система OpenAI без сохранения данных в настоящее время доступна только для корпоративных клиентов и соответствующих API; она не распространяется на пользователей ChatGPT Free, Go, Plus или Pro.
📌 Соперничество между OpenAI и Anthropic распространяется на способы баланса между конфиденциальностью и безопасностью ИИ. OpenAI стремится к обнаружению рисков при сохранении механизма отсутствия логов для корпоративных клиентов, в то время как Anthropic выбирает 30-дневное хранение данных для отслеживания сложных атак. Эти два подхода отражают различные варианты управления ИИ в условиях роста возможностей и рисков моделей.
