В статье сравнивается американо-китайское соперничество в сфере ИИ с гонкой ядерных вооружений между США и СССР, когда две сверхдержавы одновременно технологически конкурируют и сталкиваются с риском глобальных последствий.
13-дневный Карибский кризис стал поворотным моментом, побудившим Вашингтон и Москву создать механизмы для снижения риска случайной ядерной войны.
ИИ отличается от ядерного оружия тем, что он разрабатывается преимущественно предприятиями, широко распространен и остается «черным ящиком», который даже передовые лаборатории (frontier labs) не до конца понимают.
Один из уроков, который можно применить, — это создание «горячей линии» между США и Китаем и объединение передовых лабораторий для быстрого обмена информацией об опасных инцидентах с ИИ.
США и СССР в свое время использовали механизмы ядерной инспекции и мониторинга; в отношении ИИ эксперт Энтони Агирре предлагает отслеживать лимиты вычислительной мощности (compute) и крупномасштабные дата-центры.
Мониторинг ИИ может быть осуществимым, поскольку передовые чипы сосредоточены в специализированных цепочках поставок, а дата-центры достаточно велики, чтобы их можно было отслеживать с помощью различных методов.
Главными препятствиями являются отсутствие доверия между США и Китаем, роль частных предприятий и нежелание Пекина ограничивать развитие, пока его считают отстающим.
В отличие от Хиросимы и Нагасаки, мир еще не столкнулся с эквивалентной катастрофой в сфере ИИ, которая сформировала бы общее понимание уровня опасности и подтолкнула к коллективным действиям.
📌 Заключение: Статья использует опыт контроля над ядерными вооружениями для предложения механизмов управления ИИ, таких как горячие линии, обмен информацией об инцидентах, мониторинг вычислительных мощностей и проверка инфраструктуры. Тем не менее, ИИ сложнее контролировать, поскольку технология рассредоточена по предприятиям, а степень риска все еще вызывает споры. Главный урок Холодной войны заключается в том, что сотрудничество не требует полного доверия между соперниками: механизмы обмена информацией и верификации могут быть созданы именно из-за отсутствия доверия между ними.
