- Futurismは、AIが「doom loop（悪循環）」を生み出していると論じている。AIは人間の労働やコンテンツから価値を得る一方で、それらを作り続ける経済的な動機を弱めているという。
- The New York Timesとの訴訟を通じて公開されたMicrosoftの内部文書は、AIによるコンテンツ戦略がモデルの性能だけでなく、ウェブ全体にも悪影響を及ぼす可能性を警告している。
- ある文書では、AI製品がLLMの「コンテンツ供給網」に不可欠な提供者たちの経済基盤そのものを脅かすという矛盾が説明されている。
- ジャーナリズムはその典型例だ。ChatGPTやGeminiなどは記事を要約できるため、読者を元の記事へ誘導しない場合があり、メディアへのアクセス数や収益モデルを弱体化させる可能性がある。
- 音楽や映画でも同様の循環が生まれている。AI生成コンテンツが、かつてモデルの開発に貢献したクリエイターの作品と直接競合するためだ。
- 記事は、米国のクリエイティブ産業で約4年間に20万人以上の雇用が失われたとする数字を紹介しているが、この数字だけではAIが直接の原因だったことは証明できない。
- 雇用市場でも似た循環が生まれている。求職者がAIで大量の応募書類を作成する一方、採用側もAIで選考するため、応募数が増え、候補者を見分けることが難しくなる。
- GreenhouseのCEOは、双方が自分たちの問題を解決するためにAIを使うものの、その使い方が相手側の問題をさらに深刻化させ、それによってAI利用がさらに促進される状況を説明している。
- 教育も別の悪循環として取り上げられている。学生がAIで課題をこなし、教師もAIで課題を作成することで、双方の直接的な思考の役割が弱まる可能性がある。
- 著作権をめぐる議論も決着していない。AI企業は、モデルの出力は元のコンテンツとは十分に異なるため「fair use」に該当すると主張する一方、コンテンツ所有者はこの見解に異議を唱え続けている。
- 記事が提示する長期的なリスクは、AIが人間によって生み出される新しい知識、文化、コンテンツを継続的に必要とする一方で、それらを生み出し続けるための収益や動機を弱める可能性があることだ。
📌 「Doom loop」は、個々の企業の生産性だけでなく、AIをエコシステム全体の視点から考えるための重要な概念だ。AIは各主体が短期的にコストを削減するのを助けられるが、多くの主体がデータ、雇用、収益、入力データの質を弱める方向で同時に最適化すると、個々の利益が社会全体のコストにつながる可能性がある。ただし、この記事はAIに対して強い批判的立場を取る論評であるため、実証的な証拠と筆者による因果関係の主張は分けて考える必要がある。
