- Дарио Амодеи, генеральный директор Anthropic, опубликовал статью «Policy on the AI Exponential» («Политика в условиях экспоненциального развития ИИ»), в которой призвал создать механизм регулирования ИИ, аналогичный Федеральному управлению гражданской авиации США (FAA).
- Он считает, что передовые модели ИИ должны проходить независимое тестирование и оценку перед выпуском на рынок.
- Anthropic предлагает наделить правительство правом задерживать, блокировать или отзывать модели ИИ, если они создают серьезные риски в сфере кибербезопасности, биологии или неуправляемой автономности.
- Компания также представила новые «Рамочные принципы управления передовым ИИ» и «Рамочные принципы экономической политики в сфере ИИ».
- Модели, обученные в масштабах свыше 1025 FLOPs или принадлежащие компаниям с доходом от ИИ более 500 миллионов долларов, могут быть подвергнуты обязательной верификации.
- В Anthropic полагают, что прежних требований исключительно к прозрачности уже недостаточно для контроля рисков.
- Главным стимулом к этому стал стремительный рост угроз кибербезопасности, создаваемых с помощью ИИ.
- Компания сообщила, что Claude Mythos продемонстрировал способность обнаруживать критические уязвимости в системах безопасности различных операционных систем.
- Anthropic предлагает относиться к защите весов моделей (model weights) как к стратегическому активу, нуждающемуся в строгой охране.
- Компания также предупреждает о риске появления несанкционированных копий моделей с помощью методов «дистилляции моделей» (model distillation).
- В экономическом плане Anthropic признает, что ИИ может стать технологией, замещающей рабочую силу в больших масштабах, а не просто инструментом повышения производительности.
- Компания выделяет 350 миллионов долларов на исследования и поддержку политических мер по преодолению последствий влияния ИИ на рынок труда.
- Из них 200 миллионов долларов пойдут в исследовательский фонд Economic Futures, а 150 миллионов долларов — на национальную программу стипендий.
- Anthropic рассматривает сценарии, при которых уровень безработицы из-за ИИ может вырасти до 5%, 10% или выше.
- Среди обсуждаемых решений — страхование заработной платы, безусловный базовый доход (UBI) и суверенные фонды благосостояния.
- Компания рекомендует бизнесу сосредоточиться на переобучении и перераспределении персонала, а не просто на сокращении сотрудников ради финансирования ИИ-проектов.
- 📌 Заключение: Предложение Anthropic знаменует собой серьезный сдвиг в дискуссии об ИИ. Вместо того чтобы фокусироваться только на инновациях и росте, одна из ведущих мировых ИИ-компаний открыто призывает к созданию механизма контроля над самыми мощными моделями ИИ по аналогии с авиационной отраслью. Если эти предложения будут приняты, бизнесу придется готовиться к работе в условиях ИИ-среды с повышенными требованиями к верификации, безопасности и социальной ответственности, параллельно выстраивая долгосрочные кадровые стратегии для адаптации к изменениям, вызванным ИИ.
