- Futurism утверждает, что ИИ создает «doom loops» — порочные круги, в которых технология извлекает ценность из человеческого труда и контента, одновременно ослабляя экономические стимулы продолжать создавать эти исходные ресурсы.
- Внутренние документы Microsoft, опубликованные в ходе судебного разбирательства с The New York Times, предупреждают, что стратегия создания контента с помощью ИИ может навредить как эффективности моделей, так и всему интернету.
- В одном из документов описывается парадокс: продукты на основе ИИ угрожают экономической основе поставщиков, которые являются важной частью «цепочки поставок контента» для LLM.
- Журналистика — яркий пример. Такие инструменты, как ChatGPT и Gemini, могут пересказывать статьи, не направляя читателей на исходный сайт, что потенциально снижает трафик и ослабляет бизнес-модели СМИ.
- Аналогичный цикл возникает в музыке и кино, где контент, созданный ИИ, напрямую конкурирует с продукцией авторов, чьи работы и данные ранее помогали развивать эти модели.
- В статье приводятся данные о том, что за примерно четыре года в США исчезло более 200 000 рабочих мест в творческих индустриях, однако эти цифры сами по себе не доказывают, что непосредственной причиной был ИИ.
- Аналогичный цикл формируется и на рынке труда: соискатели используют ИИ для массового создания резюме и заявок, а работодатели — ИИ для их отбора, что увеличивает количество заявок и усложняет определение подходящих кандидатов.
- Генеральный директор Greenhouse описывает ситуацию, когда каждая сторона использует ИИ для решения собственной проблемы, но такое использование одновременно усугубляет проблему другой стороны, создавая новые стимулы продолжать использовать ИИ.
- Образование также рассматривается как еще один такой цикл: студенты используют ИИ для выполнения заданий, а преподаватели — ИИ для их создания, что может снижать роль самостоятельного мышления с обеих сторон.
- Споры об авторских правах остаются нерешенными. Компании-разработчики ИИ утверждают, что результаты моделей достаточно отличаются от исходного контента, чтобы подпадать под «fair use», тогда как владельцы контента продолжают оспаривать эту позицию.
- Долгосрочный риск, который поднимает статья, заключается в том, что ИИ постоянно нуждается в новых знаниях, культуре и контенте, созданных людьми, но одновременно может ослаблять доходы и стимулы, побуждающие людей продолжать создавать эти ресурсы.
📌 «Doom loop» — полезное понятие для анализа ИИ с точки зрения экосистемы, а не только производительности отдельных компаний. ИИ может помочь каждому участнику снизить расходы в краткосрочной перспективе, но если множество участников одновременно оптимизируют процессы так, что ослабляют источники данных, занятость, доходы или качество исходных материалов, индивидуальная выгода может создавать коллективные издержки. Однако это критическая по отношению к ИИ авторская колонка, поэтому эмпирические доказательства следует отделять от причинно-следственных выводов автора.
