- La Linux Foundation vient d’annoncer l’Appia Foundation, une nouvelle organisation visant à établir des normes pour vérifier la fiabilité, la sécurité et la conformité des systèmes d’IA.
- L’Appia Foundation opère sous l’égide de la Joint Development Foundation (JDF), une unité spécialisée dans le soutien à l’élaboration de normes techniques et de standards industriels.
- L’objectif d’Appia est de créer des spécifications ouvertes et modulaires aidant les organisations de la chaîne de valeur de l’IA à prouver que leurs systèmes répondent aux exigences de sécurité, de gouvernance et de réglementation.
- Google, Microsoft et OpenAI figurent parmi les 13 premiers membres fondateurs.
- Les autres membres incluent Arm, Siemens, Mastercard, Ericsson, Schneider Electric, Mitsubishi Electric, Nemko, Naaia et Armilla AI.
- Appia est née pour résoudre un problème majeur de l’IA actuelle : l’absence de mécanisme standardisé pour prouver qu’un système d’IA est réellement sûr, équitable et fiable.
- Actuellement, la plupart des déclarations sur la sécurité et la conformité de l’IA reposent sur l’auto-déclaration des entreprises de développement elles-mêmes.
- Selon Craig Shank, directeur exécutif de l’Appia Foundation, l’organisation souhaite créer des dossiers techniques transparents et traçables identifiant clairement qui a vérifié quoi, selon quels critères et à quel moment.
- Un exemple cité est un système d’IA de filtrage des candidatures, où plusieurs parties interviennent, du développeur du modèle à l’intégrateur, en passant par le fournisseur de logiciels et l’entreprise utilisatrice finale. Dans ce cas, employeurs, candidats, dirigeants et régulateurs ont tous besoin de preuves que le système fonctionne de manière équitable et légale.
- Appia élaborera des « spécifications de conformité », soit des ensembles de critères d’évaluation traduisant des normes internationales comme ISO/IEC en exigences vérifiables en pratique.
- L’organisation compare les normes internationales aux codes du bâtiment, et les spécifications d’Appia à la liste de contrôle d’un inspecteur en bâtiment.
- Une fonctionnalité clé est le mécanisme de « pass-through des preuves », permettant de transmettre les preuves de conformité entre les parties de la chaîne de valeur de l’IA.
- Par exemple, une entreprise déployant un modèle d’IA n’a pas besoin de répéter tout le processus de vérification ; elle doit seulement prouver la partie configuration et exploitation sous sa responsabilité.
- Appia souligne la différence entre « conformité » (respect des critères techniques) et « compliance » (respect de la loi), l’organisation n’étant responsable que de la première partie.
- Les groupes de travail se concentrent actuellement sur les normes liées à l’architecture des systèmes, aux politiques de gouvernance et à la capacité de répondre à des réglementations telles que l’EU AI Act.
- Jim Zemlin, PDG de la Linux Foundation, estime que comme les réglementations sur l’IA deviennent de plus en plus obligatoires et contraignantes, l’industrie a besoin d’une infrastructure de vérification neutre construite de manière ouverte.
- La Linux Foundation pense que cette approche aidera à réduire la complexité, à baisser les coûts de conformité et à instaurer la confiance dans l’IA à l’échelle mondiale.
📌 La naissance de l’Appia Foundation reflète une nouvelle étape de l’industrie de l’IA : de la course à la construction de modèles à la course à la construction de la confiance. Avec la participation de Google, Microsoft, OpenAI et de grands groupes industriels, l’objectif n’est plus seulement de créer une IA plus puissante, mais de créer des mécanismes prouvant que l’IA est digne de confiance. Alors que des lois comme l’EU AI Act commencent à être appliquées, le besoin de normes de vérification, de traçabilité des responsabilités et de preuves de conformité deviendra une infrastructure aussi vitale que les modèles d’IA eux-mêmes.
