- OpenAI hat das System „Private Safety Processing“ vorgestellt, das den Missbrauch fortschrittlicher KI-Modelle erkennt, ohne Kundendaten zu speichern.
- Die Technologie wird derzeit mit ausgewählten Unternehmenskunden getestet, bevor sie im September zusammen mit der technischen Dokumentation allgemein freigegeben wird.
- Das System sendet nur begrenzte Sicherheitssignale an OpenAI, anstatt die gesamten Benutzereingaben oder -antworten zu übertragen.
- Die Daten können auf der vom Kunden kontrollierten Infrastruktur verbleiben oder von OpenAI mit vom Kunden selbst verwalteten Verschlüsselungscodes gespeichert werden.
- Laut OpenAI hilft die Überwachung mehrerer Interaktionssitzungen über einen längeren Zeitraum dabei, komplexe Angriffe zu erkennen, etwa wenn Benutzer Fragmente von Informationen sammeln, um einen Cyberangriff vorzubereiten.
- Anthropic hingegen verlangt von Unternehmenskunden, die die Modelle Fable 5 und Mythos 5 nutzen, eine 30-tägige Datenspeicherung zur Sicherheitsüberwachung zu akzeptieren.
- Anthropic räumt ein, dass diese Politik bei Kunden auf Ablehnung stoßen und einen Wettbewerbsnachteil darstellen könnte, wenn Konkurrenten Modelle ohne Datenspeicherung beibehalten.
- Die beiden Unternehmen verfolgen unterschiedliche Sicherheitsstrategien, da KI-Modelle immer leistungsfähiger werden und neue Risiken entstehen.
- OpenAI hat zudem kürzlich einen Teil des Trainingsprozesses für neue Modelle unterbrochen, um Sicherheitsprobleme zu beheben, während Anthropic angab, keine Notwendigkeit für ähnliche Maßnahmen zu sehen.
- Das System von OpenAI ohne Datenspeicherung ist derzeit nur für Unternehmenskunden und berechtigte APIs verfügbar, nicht für ChatGPT Free-, Go-, Plus- oder Pro-Nutzer.
📌 Der Wettbewerb zwischen OpenAI und Anthropic weitet sich auf die Frage aus, wie Privatsphäre und KI-Sicherheit in Einklang gebracht werden können. OpenAI strebt eine Risikoerkennung bei gleichzeitiger Beibehaltung eines Mechanismus ohne Datenspeicherung für Unternehmenskunden an, während Anthropic eine 30-tägige Protokollierung akzeptiert, um raffinierte Angriffe zu verfolgen. Diese beiden Ansätze spiegeln unterschiedliche Entscheidungen in der KI-Governance wider, da Modelle immer fähiger und risikoreicher werden.
