- OpenAI ha presentato il sistema Private Safety Processing, che consente di rilevare comportamenti abusivi sui modelli di IA avanzati senza memorizzare i dati dei clienti.
- La tecnologia è attualmente in fase di test con alcuni clienti aziendali prima di una release diffusa accompagnata da documentazione tecnica a settembre.
- Il sistema invia a OpenAI solo segnali di sicurezza limitati invece di trasmettere l’intero prompt o la risposta dell’utente.
- I dati possono rimanere sull’infrastruttura controllata dal cliente o essere archiviati da OpenAI utilizzando chiavi di crittografia gestite dal cliente stesso.
- OpenAI ha dichiarato che il monitoraggio di più sessioni di interazione nel tempo aiuta a rilevare attacchi complessi, come quando gli utenti raccolgono frammenti di informazioni per preparare un attacco informatico.
- Anthropic, al contrario, richiede ai clienti aziendali che utilizzano i modelli Fable 5 e Mythos 5 di accettare la conservazione dei dati per 30 giorni a fini di monitoraggio della sicurezza.
- Anthropic ammette che questa politica potrebbe non essere gradita ai clienti e causare uno svantaggio competitivo se i rivali mantenessero modelli senza conservazione dei dati.
- Le due società stanno perseguendo due diverse strategie di sicurezza mentre i modelli di IA diventano sempre più potenti ed emergono nuovi rischi.
- OpenAI ha inoltre recentemente sospeso parte del processo di addestramento dei nuovi modelli per affrontare problemi di sicurezza, mentre Anthropic ha dichiarato di non ritenere necessarie misure simili.
- Il sistema di non conservazione dei dati di OpenAI è attualmente riservato ai clienti aziendali e alle API idonee, non si applica agli utenti ChatGPT Free, Go, Plus o Pro.
📌 La competizione tra OpenAI e Anthropic si sta estendendo al modo in cui bilanciare privacy e sicurezza dell’IA. OpenAI punta al rilevamento dei rischi mantenendo un meccanismo di non conservazione dei dati per i clienti aziendali, mentre Anthropic accetta il logging di 30 giorni per tracciare attacchi sofisticati. I due approcci riflettono scelte diverse nella governance dell’IA mentre i modelli diventano sempre più capaci e rischiosi.
