- Die Linux Foundation hat die Appia Foundation angekündigt, eine neue Organisation zur Schaffung von Standards für die Überprüfung der Zuverlässigkeit, Sicherheit und Compliance von KI-Systemen.
- Die Appia Foundation agiert unter der Joint Development Foundation (JDF), einer Einheit, die auf die Unterstützung bei der Erstellung technischer Standards und Industrienormen spezialisiert ist.
- Ziel von Appia ist es, offene und modulare Spezifikationen zu erstellen, die Organisationen in der KI-Wertschöpfungskette helfen, nachzuweisen, dass ihre Systeme Sicherheits-, Governance- und gesetzliche Anforderungen erfüllen.
- Google, Microsoft und OpenAI gehören zu den 13 ersten Gründungsmitgliedern.
- Weitere Mitglieder sind Arm, Siemens, Mastercard, Ericsson, Schneider Electric, Mitsubishi Electric, Nemko, Naaia und Armilla AI.
- Appia wurde ins Leben gerufen, um ein großes Problem der heutigen KI zu lösen: das Fehlen standardisierter Mechanismen zum Nachweis, dass ein KI-System wirklich sicher, fair und zuverlässig ist.
- Derzeit beruhen die meisten Aussagen zur KI-Sicherheit und -Compliance auf Eigenerklärungen der Entwicklerunternehmen selbst.
- Laut Craig Shank, Geschäftsführer der Appia Foundation, möchte die Organisation transparente, rückverfolgbare technische Unterlagen erstellen, die klar identifizieren, wer was nach welchen Kriterien und zu welchem Zeitpunkt verifiziert hat.
- Als Beispiel wurde ein KI-System zur Vorauswahl von Bewerbern genannt, an dem viele Parteien beteiligt sind – vom Modellentwickler über den Integrator und Softwareanbieter bis hin zum Endnutzer-Unternehmen. In diesem Fall benötigen Arbeitgeber, Bewerber, Unternehmensleiter und Aufsichtsbehörden Beweise dafür, dass das System fair und rechtmäßig arbeitet.
- Appia wird „Konformitätsspezifikationen“ entwickeln, also Bewertungsschablone, die internationale Standards wie ISO/IEC in in der Praxis überprüfbare Anforderungen übersetzen.
- Die Organisation vergleicht internationale Standards mit Bauvorschriften, während die Spezifikationen von Appia wie die Checkliste eines Bauinspektors sind.
- Ein wichtiges Merkmal ist der „Evidence Pass-Through“-Mechanismus, der es ermöglicht, Compliance-Nachweise zwischen den Parteien in der KI-Wertschöpfungskette weiterzugeben.
- Beispielsweise muss ein Unternehmen, das ein KI-Modell einsetzt, nicht den gesamten Verifizierungsprozess wiederholen, sondern nur die in seiner Verantwortung liegenden Konfigurations- und Betriebsaspekte nachweisen.
- Appia betont den Unterschied zwischen „Konformität“ (Erfüllung technischer Kriterien) und „Compliance“ (Einhaltung von Gesetzen), wobei die Organisation nur für den ersten Teil zuständig ist.
- Arbeitsgruppen konzentrieren sich derzeit auf Standards in Bezug auf Systemarchitektur, Governance-Richtlinien und die Fähigkeit, Vorschriften wie den EU AI Act zu erfüllen.
- Jim Zemlin, CEO der Linux Foundation, erklärte, dass die Branche angesichts zunehmend verbindlicher KI-Vorschriften eine offen aufgebaute, neutrale Verifizierungsinfrastruktur benötigt.
- Die Linux Foundation glaubt, dass dieser Ansatz dazu beitragen wird, die Komplexität zu verringern, die Compliance-Kosten zu senken und weltweit Vertrauen in KI aufzubauen.
📌 Die Gründung der Appia Foundation spiegelt eine neue Phase der KI-Industrie wider: vom Wettlauf um den Modellbau zum Wettlauf um den Vertrauensaufbau. Mit der Beteiligung von Google, Microsoft, OpenAI und großen Industriekonzernen ist das Ziel nicht mehr nur die Schaffung leistungsfähigerer KI, sondern die Schaffung von Mechanismen zum Nachweis ihrer Vertrauenswürdigkeit. Da Gesetze wie der EU AI Act in Kraft treten, wird der Bedarf an Verifizierungsstandards, der Rückverfolgbarkeit von Verantwortlichkeiten und Compliance-Nachweisen zu einer Infrastruktur werden, die genauso wichtig ist wie die KI-Modelle selbst.
