- OpenAI a introduit le système Private Safety Processing, qui permet de détecter les comportements abusifs sur les modèles d’IA avancés sans stocker les données des clients.
- La technologie est actuellement testée par certains clients entreprises avant une diffusion large accompagnée d’une documentation technique en septembre.
- Le système envoie uniquement des signaux de sécurité limités à OpenAI au lieu de transmettre l’intégralité des requêtes ou des réponses des utilisateurs.
- Les données peuvent rester sur l’infrastructure contrôlée par le client ou être stockées par OpenAI à l’aide de clés de cryptage gérées par les clients eux-mêmes.
- OpenAI a déclaré que le suivi de plusieurs sessions d’interaction au fil du temps aide à détecter des attaques complexes, comme lorsque des utilisateurs collectent des fragments d’informations pour préparer une cyberattaque.
- Anthropic, en revanche, exige que les clients entreprises utilisant les modèles Fable 5 et Mythos 5 acceptent la conservation des données pendant 30 jours à des fins de surveillance de la sécurité.
- Anthropic admet que cette politique pourrait ne pas être soutenue par les clients et créer un désavantage concurrentiel si les rivaux maintiennent des modèles sans conservation de données.
- Les deux entreprises poursuivent deux stratégies de sécurité différentes alors que les modèles d’IA deviennent de plus en plus puissants et que de nouveaux risques apparaissent.
- OpenAI a également récemment suspendu une partie du processus d’entraînement de nouveaux modèles pour résoudre des problèmes de sécurité, tandis qu’Anthropic a déclaré ne pas juger nécessaire d’appliquer des mesures similaires.
- Le système sans conservation de données d’OpenAI est actuellement réservé aux clients entreprises et aux API éligibles, et ne s’applique pas aux utilisateurs de ChatGPT Free, Go, Plus ou Pro.
📌 La concurrence entre OpenAI et Anthropic s’étend à la manière de concilier vie privée et sécurité de l’IA. OpenAI vise la détection des risques tout en maintenant un mécanisme sans conservation de données pour les clients entreprises, tandis qu’Anthropic accepte une journalisation de 30 jours pour suivre les attaques sophistiquées. Ces deux approches reflètent des choix différents en matière de gouvernance de l’IA à l’heure où les modèles deviennent de plus en plus performants et risqués.
