Wissenschaft versinkt in „KI-Müll“, während die akademische Begutachtung zu scheitern beginnt

• Ein Psychologieprofessor in Norwegen entdeckte, dass eine Arbeit, die er begutachten sollte, sein eigenes Werk zitierte – nur dass diese Forschung gar nicht existierte. Dies illustriert das Phänomen der „halluzinierten Zitate“ durch generative KI.
• Dieses Phänomen breitet sich in der akademischen Welt aus, von renommierten Fachzeitschriften bis hin zu politischen Berichten, und zeigt, dass generative KI die Glaubwürdigkeit wissenschaftlicher Publikationen untergräbt.
• Die Anzahl der Einreichungen bei Fachzeitschriften ist sprunghaft angestiegen, seit große Sprachmodelle populär wurden – sowohl durch legitime Produktivitätssteigerung als auch durch organisierten Betrug.
• „Papierfabriken“ verkaufen massengefertigte Forschungsarbeiten, die Text- und Bildvorlagen wiederverwenden, besonders häufig in Bereichen wie Krebsforschung, Blockchain und KI.
• KI schreibt nicht nur Texte, sondern erstellt auch gefälschte wissenschaftliche Bilder wie Histologien, Elektrophoresegele und sogar fehlerhafte biologische Illustrationen, die dennoch die Begutachtung bestehen.
• Einige große KI-Konferenzen verzeichneten eine Verdoppelung der Einreichungen in 5 Jahren; über 50 Arbeiten mit erfundenen Zitaten schlüpften durch den Begutachtungsprozess.
• Etwa 50 % der Gutachten bei einigen Konferenzen werden mit KI-Unterstützung verfasst, und etwa 20 % werden vollständig von generativer KI erstellt.
• Preprint-Server wie arXiv, bioRxiv, medRxiv erleben ebenfalls eine Welle von KI-Arbeiten, wobei Autoren ohne vorherige Publikationen bis zu 50 Arbeiten pro Jahr einreichen.
• Wenn das Verhältnis von „Rauschen“ zu „Signal“ zu hoch wird, droht der wissenschaftlichen Gemeinschaft eine existenzielle Krise, in der wahres Wissen untergeht.

Fazit: Bei großen KI-Konferenzen haben sich die Einreichungen in 5 Jahren verdoppelt; über 50 Arbeiten mit gefälschten Zitaten bestanden die Prüfung. Über 50 % der Gutachten sind KI-unterstützt, 20 % rein KI-generiert. Die Einreichungen stiegen durch LLMs und Betrug massiv an. Die Wissenschaft steht vor einer langfristigen „kognitiven Verschmutzung“: KI schreibt – KI prüft – KI lernt aus dem selbst erzeugten Datenmüll.