- Европейский союз предложил новый закон KIDS Act, который предусматривает отключение ИИ-компаньонов по умолчанию для пользователей младше 18 лет и запрет функций, способных формировать эмоциональную зависимость.
- Исследователи отмечают, что зависимость от чат-ботов пока не признана медицинским диагнозом, однако всё чаще демонстрирует признаки, схожие с поведенческой зависимостью.
- Исследование 334 публикаций на Reddit показало, что многие пользователи называли себя зависимыми от ChatGPT или Character.AI и сообщали о тревожности, трудностях с прекращением использования и возвращении к чат-ботам после попыток отказаться от них.
- Один из пользователей Character.AI рассказал, что раньше проводил с чат-ботом более 15 часов в день, бросил университет и столкнулся с проблемами на работе, прежде чем успешно прекратить использование более чем на шесть месяцев.
- Эксперты считают тревожным признаком ситуацию, когда чат-бот начинает вытеснять работу, отношения, хобби и заботу о себе.
- Исследователь Dongwook Yoon отмечает, что чат-боты имеют очень низкий «порог взаимодействия»: они всегда доступны, отвечают мгновенно и часто соглашаются с пользователем, что может затруднять отказ от их использования.
- Некоторые элементы дизайна, например сообщения Character.AI при удалении аккаунта с упоминанием «любви» и «воспоминаний», предположительно усиливают склонность пользователей очеловечивать чат-ботов.
- Эксперт Kaitlyn Regehr предупреждает, что бизнес-модель ИИ движется к «экономике привязанности», в которой технологии стремятся формировать эмоциональную связь с пользователями.
- Опрос Common Sense Media среди 1 060 американских подростков показал, что 72% использовали ИИ-компаньонов, а около трети обращались к ним ради дружбы или эмоциональной поддержки. При этом 80% всё ещё проводили больше времени с друзьями в реальной жизни, чем с ИИ.
- OpenAI и Character.AI заявили, что внедрили ряд мер безопасности, включая рекомендации обращаться за помощью в реальном мире, напоминания делать перерывы, проверку возраста и предупреждения о том, что чат-боты не являются реальными людьми.
📌 Растёт обеспокоенность психологическим воздействием ИИ-компаньонов. Хотя чат-боты могут оказывать эмоциональную поддержку и помогать в общении, эксперты предупреждают, что чрезмерное использование способно ослаблять социальные навыки, формировать зависимость и влиять на учёбу, работу и отношения. Новые предложения ЕС и меры безопасности со стороны компаний показывают тенденцию к усилению защиты пользователей, особенно детей и подростков.
