- Профессор психологии из Норвегии обнаружил, что в статье, которую его пригласили отрецензировать, цитируется его собственная работа, однако этого исследования не существует — наглядный пример «галлюцинированных цитат», порождаемых генеративным ИИ.
- Это явление распространяется в академических кругах, от престижных журналов до отчетов по вопросам политики, что свидетельствует о подрыве доверия к научным публикациям.
- Количество заявок в журналы резко возросло после популяризации больших языковых моделей, как за счет законного роста производительности, так и за счет организованного мошенничества.
- «Фабрики статей» продают серийные исследовательские работы, используя шаблоны текстов и изображений, особенно в таких областях, как исследования рака, блокчейн и ИИ.
- ИИ не только пишет тексты, но и создает поддельные научные изображения, такие как гистологические срезы, гели для электрофореза и даже неверные биологические иллюстрации, которые проходят рецензирование.
- На некоторых крупных конференциях по ИИ количество заявок удвоилось за 5 лет; более 50 статей с вымышленными цитатами прошли стадию рецензирования.
- Около 50% рецензий на некоторых конференциях пишутся с помощью ИИ, а около 20% полностью созданы генеративным ИИ.
- Серверы препринтов, такие как arXiv, bioRxiv, medRxiv, также наблюдают волну статей от ИИ, вплоть до случаев, когда авторы без предыдущих публикаций подают по 50 статей в год.
- Если уровень «шума» превысит уровень «сигнала», научному сообществу грозит экзистенциальный кризис, когда истинные знания будут погребены под мусором.
Заключение: На крупных ИИ-конференциях количество заявок удвоилось за 5 лет; более 50 статей с ложными цитатами прошли рецензирование. Свыше 50% рецензий на конференциях пишутся с поддержкой ИИ, а 20% — полностью ИИ. Количество публикаций подскочило из-за популярности LLM и мошенничества. Наука сталкивается с риском «когнитивного загрязнения», где ИИ пишет, ИИ проверяет, а затем ИИ снова учится на созданных им же мусорных данных.
