- 리눅스 재단은 AI 시스템의 신뢰성, 안전성 및 규정 준수 여부를 검증하기 위한 표준을 구축하는 새로운 조직인 Appia Foundation을 발표했다.
- Appia Foundation은 기술 표준 및 산업 규격 구축을 전문적으로 지원하는 Joint Development Foundation(JDF) 산하에서 운영된다.
- Appia의 목표는 AI 가치 사슬 내의 조직들이 자사 시스템이 안전, 거버넌스 및 법적 규제 요건을 충족함을 입증하는 데 도움이 되는 개방형 모듈식 사양을 만드는 것이다.
- 구글, 마이크로소프트, OpenAI는 13개 초기 창립 멤버 중 3곳이다.
- 기타 멤버로는 Arm, 지멘스, 마스터카드, 에릭슨, 슈나이더 일렉트릭, 미쓰비시 전기, Nemko, Naaia, Armilla AI 등이 있다.
- Appia는 현재 AI의 큰 문제인 ‘AI 시스템이 정말로 안전하고 공정하며 신뢰할 수 있는지 증명할 표준화된 메커니즘의 부재’를 해결하기 위해 탄생했다.
- 현재 AI의 안전성 및 준수성에 관한 대부분의 주장은 개발사 자체의 자기 선언에 의존하고 있다.
- Appia Foundation의 상임 이사인 크레이그 섕크(Craig Shank)에 따르면, 이 조직은 누가 무엇을, 어떤 기준으로, 언제 검증했는지 명확히 식별할 수 있는 투명하고 추적 가능한 기술 기록을 만들고자 한다.
- 한 예로 AI 채용 심사 시스템이 제시되었는데, 모델 개발자, 통합업체, 소프트웨어 공급업체에서 최종 사용 기업에 이르기까지 많은 당사자가 관여한다. 이 경우 채용 담당자, 지원자, 기업 리더 및 규제 기관 모두가 시스템이 공정하고 합법적으로 작동한다는 증거를 필요로 한다.
- Appia는 ISO/IEC와 같은 국제 표준을 실제 현장에서 검증 가능한 요구 사항으로 변환하는 평가 기준 세트인 ‘적합성 사양(conformity specifications)’을 구축할 예정이다.
- 조직은 국제 표준을 건축 법규에 비유하고, Appia의 사양은 건축 감독관의 체크리스트와 같다고 설명한다.
- 중요한 기능 중 하나는 ‘증거 통과(evidence pass-through)’ 메커니즘으로, AI 가치 사슬 내 당사자들 간에 준수 증거를 전달할 수 있게 한다.
- 예를 들어, AI 모델을 도입하는 기업은 검증 프로세스 전체를 반복할 필요 없이 자신의 책임인 설정 및 운영 부분만 증명하면 된다.
- Appia는 ‘적합성'(기술적 기준 충족)과 ‘준수성'(법률 준수)의 차이를 강조하며, 조직은 전자에 대해서만 책임을 진다.
- 워킹 그룹은 현재 시스템 아키텍처, 거버넌스 정책 및 EU AI 법과 같은 규제 대응 능력과 관련된 표준 구축에 집중하고 있다.
- 리눅스 재단의 CEO인 짐 제믈린(Jim Zemlin)은 AI 규제가 점점 의무화되고 법적 효력을 갖게 됨에 따라, 업계에는 공개적으로 구축된 중립적인 검증 인프라가 필요하다고 주장했다.
- 리눅스 재단은 이러한 접근 방식이 복잡성을 줄이고 준수 비용을 낮추며 전 세계적으로 AI에 대한 신뢰를 쌓는 데 도움이 될 것이라고 믿는다.
📌 Appia Foundation의 탄생은 AI 산업의 새로운 단계, 즉 모델 구축 경쟁에서 신뢰 구축 경쟁으로의 전환을 반영한다. 구글, 마이크로소프트, OpenAI와 대형 산업 기업들의 참여로, 목표는 더 강력한 AI를 만드는 것뿐만 아니라 AI가 신뢰할 수 있음을 증명하는 메커니즘을 만드는 것이 되었다. EU AI 법 등 관련 법안이 시행되기 시작하면서, 검증 표준, 책임 추적 능력 및 준수 증거는 AI 모델 자체만큼이나 중요한 인프라가 될 것이다.
