- 노르웨이의 한 심리학 교수는 자신이 검토를 요청받은 논문이 자신의 저작물을 인용하고 있다는 사실을 발견했으나, 해당 연구는 존재하지 않는 것이었습니다. 이는 생성형 AI가 유발한 ‘인용 환각’ 현상을 여실히 보여줍니다.
- 이 현상은 권위 있는 저널부터 정책 보고서에 이르기까지 학계 전반으로 확산되고 있으며, 생성형 AI가 과학 출판의 신뢰도를 떨어뜨리고 있음을 시사합니다.
- 거대 언어 모델이 대중화된 이후, 정당한 생산성 향상과 조직적인 부정행위가 맞물려 저널 투고량이 급증했습니다.
- ‘논문 공장’은 텍스트와 이미지 템플릿을 재사용하여 대량 생산된 연구 논문을 판매하며, 특히 암 연구, 블록체인, AI 분야에서 기승을 부리고 있습니다.
- AI는 텍스트 작성뿐만 아니라 조직학, 전기영동 젤, 심지어 잘못된 생물학적 일러스트와 같은 가짜 과학 이미지를 생성하여 동료 검토를 통과시키고 있습니다.
- 일부 주요 AI 학회는 5년 만에 투고량이 두 배로 늘었으며, 위조된 인용이 포함된 논문 50편 이상이 검토 과정을 통과했습니다.
- 특정 학회의 검토 의견 중 약 50%가 AI의 도움을 받아 작성되었으며, 약 20%는 완전히 생성형 AI가 작성한 것입니다.
- arXiv, bioRxiv, medRxiv와 같은 사전 출판(Preprint) 서버에도 AI 논문이 몰려들고 있으며, 이전 게시물이 없던 저자가 연간 50편을 투고하는 사례도 발생하고 있습니다.
- ‘노이즈’가 ‘신호’를 넘어서면 진실된 지식이 매몰되어 과학계는 실존적 위기에 직면할 수 있습니다.
결론: 주요 AI 학회의 투고량이 5년 새 두 배로 급증했고, 조작된 인용이 포함된 논문 50여 편이 검토를 통과했습니다. 검토 의견의 50% 이상이 AI 지원을 받았고, 20%는 완전한 AI 생성물입니다. LLM 보급 후 투고량은 효율성 증대와 사기 행위로 인해 폭증했습니다. 과학은 AI가 쓰고, AI가 심사하며, AI가 자신이 만든 데이터 쓰레기로부터 다시 학습하는 장기적인 ‘인지적 오염’ 위기에 처해 있습니다.
