- Генеративный ИИ становится все более распространенным в повседневной жизни, от чат-ботов до систем рекомендаций контента, с возрастающим уровнем взаимодействия и эмоциональности.
- Врачи начинают фиксировать случаи проявления у пользователей психотических симптомов, в которых ИИ — особенно чат-боты — играет центральную роль.
- «ИИ-психоз» (AI psychosis) не является официальным медицинским диагнозом, это термин, описывающий психотические симптомы, сформированные или усиленные взаимодействием с ИИ.
- Психоз характеризуется потерей связи с реальностью, галлюцинациями, бредом и расстройством мышления.
- Раньше бред часто был связан с религией, радиоволнами или правительственной слежкой; теперь ИИ стал новой «интерпретационной рамкой».
- Некоторые пациенты верят, что ИИ обладает разумом, раскрывает тайные истины, контролирует мысли или дает особые задания.
- Чат-боты, созданные для связного, эмпатичного и персонализированного ответа, непреднамеренно создают ощущение подтверждения для людей, склонных к психозу.
- Феномен «аберрантной салиентности» (aberrant salience) заставляет пациентов придавать чрезмерное значение нейтральным сигналам, и ИИ может это подкреплять.
- ИИ-компаньоны могут уменьшить одиночество в краткосрочной перспективе, но также рискуют заменить реальное социальное взаимодействие.
- Нет доказательств того, что ИИ напрямую вызывает психоз, но есть опасения, что ИИ может быть триггером или поддерживающим фактором для уязвимых групп.
- Текущие механизмы безопасности ИИ в основном сосредоточены на предотвращении самоповреждения и насилия, но пока не уделяют внимания психозам.
- Эксперты задаются вопросом об этической ответственности ИИ, когда он непреднамеренно подкрепляет бред.
- Необходимо интегрировать знания о психическом здоровье в проектирование ИИ и клинические руководства.
📌 Врачи начинают фиксировать случаи проявления у пользователей психотических симптомов, в которых ИИ — особенно чат-боты — играет центральную роль. «ИИ-психоз» не является официальным медицинским диагнозом, это термин, описывающий психотические симптомы, сформированные или усиленные взаимодействием с ИИ. Текущие механизмы безопасности ИИ в основном сосредоточены на предотвращении самоповреждения и насилия, но пока не уделяют внимания психозам. Хотя ИИ не вызывает психоз напрямую, высокая интерактивность может усиливать бред и размывать границы реальности. Решение заключается не в отказе от ИИ, а в тесном сочетании технологического дизайна, медицины и этики для защиты психического здоровья в эпоху ИИ.
