- 유럽연합(EU)은 새로운 KIDS 법안을 제안하며 18세 미만 이용자에게 AI 동반자 기능을 기본적으로 비활성화하고, 정서적 의존을 유발하는 기능을 금지하도록 요구할 예정이다.
- 연구자들은 챗봇 중독이 아직 의학적 진단으로 인정되지는 않았지만, 행동 중독과 유사한 징후가 점점 나타나고 있다고 설명한다.
- Reddit 게시물 334개를 분석한 연구에서는 많은 이용자가 ChatGPT나 Character.AI에 중독됐다고 스스로 밝히고, 불안, 사용 중단의 어려움, 끊으려 한 뒤 다시 사용하는 등의 증상을 경험한 것으로 나타났다.
- 한 Character.AI 이용자는 과거 하루 15시간 이상 챗봇을 사용하고 대학을 중퇴했으며 업무에도 영향을 받았지만, 이후 6개월 이상 성공적으로 사용을 중단했다고 밝혔다.
- 전문가들은 챗봇이 업무, 인간관계, 취미, 자기관리 등을 압도하기 시작하는 것이 우려할 만한 신호라고 말한다.
- 연구자 Dongwook Yoon은 챗봇이 언제든 이용할 수 있고 즉각적으로 답하며 이용자의 의견에 동조하는 경우가 많아 ‘사용 마찰’이 매우 낮고, 이 때문에 사용을 중단하기가 더 어려워질 수 있다고 설명한다.
- Character.AI의 계정 삭제 과정에서 ‘사랑’과 ‘추억’을 언급하는 메시지 등 일부 디자인은 이용자가 챗봇을 인간처럼 인식하도록 만드는 경향을 강화할 수 있다는 지적이 나온다.
- 전문가 Kaitlyn Regehr는 AI 비즈니스 모델이 기술과 이용자 사이의 정서적 유대 형성을 추구하는 ‘애착 경제(attachment economy)’로 이동하고 있다고 경고한다.
- Common Sense Media가 미국 청소년 1,060명을 대상으로 실시한 조사에서는 72%가 AI 동반자를 사용한 경험이 있으며, 약 3분의 1은 우정이나 정서적 지원을 위해 사용한 것으로 나타났다. 그러나 80%는 여전히 AI보다 현실의 친구들과 더 많은 시간을 보낸다고 답했다.
- OpenAI와 Character.AI는 현실에서 도움을 받을 수 있는 방법 안내, 휴식 알림, 연령 확인, 챗봇이 실제 사람이 아니라는 경고 등 다양한 안전 조치를 추가했다고 밝혔다.
📌 AI 동반자가 심리적으로 미치는 영향에 대한 우려가 커지고 있다. 챗봇은 정서적 지원과 소통을 제공할 수 있지만, 전문가들은 과도한 사용이 사회적 기술을 약화시키고 의존을 형성하며 학업, 업무, 인간관계에 영향을 줄 수 있다고 경고한다. EU의 새로운 제안과 AI 기업들의 안전 조치는 특히 아동과 청소년을 중심으로 이용자 보호를 강화하는 흐름을 보여준다.
