- Linux Foundation объявил о создании Appia Foundation — новой организации, целью которой является разработка стандартов для проверки надежности, безопасности и соответствия систем ИИ требованиям.
- Appia Foundation работает в рамках Joint Development Foundation (JDF), подразделения, специализирующегося на поддержке разработки технических стандартов и отраслевых норм.
- Цель Appia — создание открытых и модульных спецификаций, которые помогут организациям в цепочке создания стоимости ИИ доказать, что их системы соответствуют требованиям безопасности, управления и законодательства.
- Google, Microsoft и OpenAI вошли в число 13 первых членов-основателей.
- Среди других участников — Arm, Siemens, Mastercard, Ericsson, Schneider Electric, Mitsubishi Electric, Nemko, Naaia и Armilla AI.
- Appia создана для решения важной проблемы современного ИИ: отсутствия стандартизированного механизма доказательства того, что система ИИ действительно безопасна, справедлива и надежна.
- В настоящее время большинство заявлений о безопасности и соответствии ИИ нормам основываются на самодекларировании самих компаний-разработчиков.
- По словам Крейга Шенка, исполнительного директора Appia Foundation, организация хочет создать прозрачные, отслеживаемые технические досье, которые четко определяют, кто, что, по каким критериям и в какое время проверил.
- Примером является система ИИ для скрининга резюме, в которой участвуют многие стороны: от разработчика модели и интегратора до поставщика ПО и конечного предприятия. В этом случае работодатели, кандидаты, руководители и регуляторы нуждаются в доказательствах того, что система работает справедливо и законно.
- Appia будет разрабатывать «спецификации соответствия» — наборы критериев оценки, которые переводят международные стандарты (такие как ISO/IEC) в проверяемые на практике требования.
- Организация сравнивает международные стандарты со строительными нормами, а спецификации Appia — с контрольным списком строительного инспектора.
- Важной особенностью является механизм «передачи доказательств», позволяющий передавать подтверждения соответствия между сторонами в цепочке создания стоимости ИИ.
- Например, предприятию, внедряющему модель ИИ, не нужно повторять весь процесс проверки, а достаточно доказать соответствие настроек и эксплуатации в рамках своей ответственности.
- Appia подчеркивает различие между «соответствием техническим критериям» (conformity) и «соблюдением законов» (compliance), при этом организация отвечает только за первую часть.
- Рабочие группы сейчас сосредоточены на стандартах архитектуры систем, политиках управления и способности отвечать таким регламентам, как Закон ЕС об ИИ.
- Джим Землин, генеральный директор Linux Foundation, считает, что по мере того, как регулирование ИИ становится обязательным и юридически значимым, индустрии необходима нейтральная инфраструктура проверки, созданная открыто.
- Linux Foundation верит, что такой подход поможет снизить сложность, уменьшить затраты на комплаенс и выстроить доверие к ИИ в глобальном масштабе.
📌 Создание Appia Foundation отражает новый этап развития индустрии ИИ: переход от гонки за созданием моделей к гонке за построением доверия. С участием Google, Microsoft, OpenAI и крупнейших промышленных корпораций цель смещается с создания более мощного ИИ на создание механизмов подтверждения его надежности. По мере вступления в силу таких законов, как Закон ЕС об ИИ, потребность в стандартах аудита, отслеживаемости ответственности и доказательствах соответствия станет инфраструктурой, не менее важной, чем сами модели ИИ.
