- La Linux Foundation ha annunciato la Appia Foundation, una nuova organizzazione volta a stabilire standard per verificare l’affidabilità, la sicurezza e la conformità dei sistemi di IA.
- La Appia Foundation opera sotto la Joint Development Foundation (JDF), un’unità specializzata nel supportare la creazione di standard tecnici e norme industriali.
- L’obiettivo di Appia è creare specifiche aperte e modulari che aiutino le organizzazioni lungo la catena del valore dell’IA a dimostrare che i loro sistemi soddisfano i requisiti di sicurezza, governance e normativi.
- Google, Microsoft e OpenAI sono tre dei 13 membri fondatori iniziali.
- Altri membri includono Arm, Siemens, Mastercard, Ericsson, Schneider Electric, Mitsubishi Electric, Nemko, Naaia e Armilla AI.
- Appia nasce per risolvere un grosso problema dell’IA attuale: la mancanza di meccanismi standardizzati per dimostrare che un sistema di IA sia realmente sicuro, equo e affidabile.
- Attualmente, la maggior parte delle dichiarazioni sulla sicurezza e la conformità dell’IA si basa sull’autocertificazione delle stesse aziende sviluppatrici.
- Secondo Craig Shank, Direttore Esecutivo della Appia Foundation, l’organizzazione vuole creare registri tecnici trasparenti e tracciabili che identifichino chiaramente chi ha verificato cosa, secondo quali criteri e in quale momento.
- Un esempio citato è un sistema di IA per lo screening dei candidati, in cui sono coinvolte più parti: dallo sviluppatore del modello all’integratore, dal fornitore di software all’azienda utilizzatrice finale. In questo caso, datori di lavoro, candidati, leader aziendali e autorità di regolamentazione necessitano tutti di prove che il sistema operi in modo equo e legale.
- Appia svilupperà “specifiche di conformità”, ovvero set di criteri di valutazione che trasformano gli standard internazionali come ISO/IEC in requisiti verificabili nella pratica.
- L’organizzazione paragona gli standard internazionali ai codici edilizi, mentre le specifiche di Appia sono come la lista di controllo di un ispettore edilizio.
- Una caratteristica importante è il meccanismo di “evidence pass-through”, che consente di trasmettere le prove di conformità tra le parti nella catena del valore dell’IA.
- Ad esempio, un’azienda che implementa un modello di IA non deve ripetere l’intero processo di verifica, ma deve solo dimostrare la parte di configurazione e funzionamento di sua competenza.
- Appia sottolinea la differenza tra “conformità tecnica” (conformity) e “conformità legale” (compliance), assumendosi la responsabilità solo per la prima parte.
- I gruppi di lavoro si stanno attualmente concentrando sulla definizione di standard relativi all’architettura di sistema, alle politiche di governance e alla capacità di soddisfare normative come l’EU AI Act.
- Jim Zemlin, CEO della Linux Foundation, ritiene che, poiché le normative sull’IA diventano sempre più obbligatorie e legalmente vincolanti, l’industria necessiti di un’infrastruttura di verifica neutrale costruita apertamente.
- La Linux Foundation crede che questo approccio aiuterà a ridurre la complessità, abbassare i costi di conformità e costruire fiducia nell’IA su scala globale.
📌 La nascita della Appia Foundation riflette una nuova fase del settore dell’IA: dalla corsa alla costruzione di modelli alla corsa alla costruzione della fiducia. Con la partecipazione di Google, Microsoft, OpenAI e grandi gruppi industriali, l’obiettivo non è più solo creare un’IA più potente, ma creare meccanismi per dimostrare che l’IA è affidabile. Mentre leggi come l’EU AI Act iniziano ad essere applicate, la necessità di standard di verifica, tracciabilità delle responsabilità e prove di conformità diventerà un’infrastruttura importante tanto quanto i modelli di IA stessi.
