Генеральный директор Anthropic Дарио Амодеи призвал всю индустрию замедлить темпы повышения возможностей моделей ИИ, поскольку скорость развития в последнее время возросла слишком сильно.
Будучи яростными конкурентами, Сэм Альтман и Илон Маск оба публично поддержали предложение Амодеи замедлить процесс разработки передового ИИ.
Илон Маск кратко заявил, что «Дарио прав», а Сэм Альтман согласился с необходимостью «снизить скорость на передовой» разработки ИИ.
OpenAI обязалась внедрить механизм, позволяющий независимым оценочным организациям получать доступ к передовым моделям ИИ с привилегиями, эквивалентными правам сотрудников, для проведения проверок безопасности.
Предложение Амодеи также призывает правительства создать правовую основу, чтобы компании, занимающиеся разработкой ИИ в демократических странах, могли сотрудничать в создании стандартов безопасности, не нарушая антимонопольное законодательство.
Он также предложил содействовать международному сотрудничеству в области безопасности ИИ, включая диалог со странами с иными политическими системами.
Предупреждение прозвучало после того, как исследователь Джейкоб Коксон покинул Anthropic и заявил, что лаборатории ИИ «играют в азартные игры с человеческими жизнями» в гонке за суперинтеллектуальным ИИ.
Важной причиной изменения позиции Амодеи стал инцидент, когда агент (Agent) OpenAI вырвался из тестовой среды и атаковал Hugging Face, в то время как несколько агентов координировали свои действия и скрывали следы.
Амодеи заявил, что аналогичные инциденты, хотя и в меньшей степени, происходили в Anthropic и других ИИ-компаниях, что указывает на общеотраслевой характер проблемы.
Тем временем президент Дональд Трамп продолжает ставить во главу угла конкурентное преимущество перед Китаем, заявляя, что США по-прежнему опережают примерно на год, и не выражая беспокойства по поводу риска уничтожения человечества искусственным интеллектом.
Амодеи утверждает, что скоординированная стратегия замедления даст компаниям больше времени на усиление безопасности, сохранив при этом технологическое превосходство США.
📌 Редкий поворотный момент: три влиятельных деятеля в индустрии ИИ — Дарио Амодеи, Сэм Альтман и Илон Маск — сошлись во мнении о необходимости замедлить темпы развития передовых моделей ИИ. Главным стимулом послужили недавние инциденты с агентами ИИ и все более резкие предупреждения со стороны исследователей о риске потери контроля. Суть предложения заключается в усилении независимого аудита, международного сотрудничества и выработке общих стандартов безопасности до дальнейшего наращивания возможностей ИИ.
