- Futurism은 AI가 ‘doom loop’를 만들고 있다고 주장한다. AI가 인간의 노동과 콘텐츠에서 가치를 얻는 동시에, 사람들이 이러한 입력물을 계속 생산하도록 만드는 경제적 동기를 약화시킨다는 것이다.
- The New York Times와의 소송 과정에서 공개된 Microsoft 내부 문서는 AI 콘텐츠 전략이 모델의 성능뿐 아니라 전체 웹 생태계에도 해를 끼칠 수 있다고 경고한다.
- 한 문서는 AI 제품이 LLM의 ‘콘텐츠 공급망’에서 필수적인 공급자들의 경제적 기반 자체를 위협하는 역설을 설명한다.
- 언론이 대표적인 사례다. ChatGPT와 Gemini 같은 도구는 독자를 원문 사이트로 이동시키지 않고 기사를 요약할 수 있어, 언론사의 트래픽과 수익 모델을 약화시킬 가능성이 있다.
- 음악과 영화에서도 비슷한 악순환이 나타나고 있다. AI가 생성한 콘텐츠가 과거 모델 개발에 기여했던 창작자들의 작품과 직접 경쟁하기 때문이다.
- 기사에서는 미국 창작 산업에서 약 4년 동안 20만 개 이상의 일자리가 사라졌다는 수치를 제시하지만, 이 수치만으로 AI가 직접적인 원인이라고 증명할 수는 없다.
- 채용 시장에서도 비슷한 순환이 형성되고 있다. 지원자는 AI를 이용해 대량으로 지원서를 만드는 반면, 고용주는 AI를 사용해 이를 선별하면서 지원자 수가 늘어나고 적합한 후보자를 구별하기 어려워진다.
- Greenhouse의 CEO는 양쪽이 각자의 문제를 해결하기 위해 AI를 사용하지만, 그 사용 방식이 상대방의 문제를 더욱 심각하게 만들어 결국 AI 사용을 계속하도록 만드는 상황을 설명한다.
- 교육 역시 또 다른 악순환으로 제시된다. 학생들은 AI로 과제를 수행하고 교사들은 AI로 과제를 만들면서 양쪽 모두에서 직접적인 사고의 역할이 약해질 수 있다.
- 저작권 논쟁도 아직 결론이 나지 않았다. AI 기업들은 모델의 결과물이 원본 콘텐츠와 충분히 다르기 때문에 ‘fair use’에 해당한다고 주장하지만, 콘텐츠 소유자들은 계속해서 이 주장을 반박하고 있다.
- 기사에서 제기하는 장기적인 위험은 AI가 인간이 새롭게 만들어내는 지식, 문화, 콘텐츠에 지속적으로 의존하면서도 동시에 사람들이 이러한 입력물을 계속 생산하도록 만드는 수익과 동기를 약화시킬 수 있다는 점이다.
📌 ‘Doom loop’는 개별 기업의 생산성만 측정하는 것이 아니라 AI를 하나의 생태계로 바라보는 데 유용한 개념이다. AI는 각 주체가 단기적으로 비용을 줄이는 데 도움을 줄 수 있지만, 많은 주체가 데이터, 일자리, 수익 또는 입력물의 품질을 약화시키는 방식으로 동시에 최적화한다면 개별적인 이익이 공동의 비용으로 이어질 수 있다. 다만 이 글은 AI에 대해 강한 비판적 입장을 가진 논평이므로, 실증적 근거와 저자의 인과관계에 대한 주장은 구분해서 볼 필요가 있다.
