- L’Unione Europea ha proposto una nuova legge KIDS che richiederebbe la disattivazione predefinita degli AI companion per gli utenti sotto i 18 anni e vieterebbe le funzioni progettate per creare dipendenza emotiva.
- I ricercatori affermano che la dipendenza dai chatbot non è ancora riconosciuta come diagnosi medica, ma presenta sempre più caratteristiche simili alla dipendenza comportamentale.
- Uno studio che ha analizzato 334 post su Reddit ha rilevato che molti utenti si sono descritti come dipendenti da ChatGPT o Character.AI e hanno riportato sintomi come ansia, difficoltà a smettere di usarli e ricadute dopo aver tentato di interromperne l’utilizzo.
- Un utente di Character.AI ha raccontato di aver utilizzato il chatbot per più di 15 ore al giorno, di aver abbandonato l’università e di aver subito conseguenze sul lavoro prima di riuscire a smettere per oltre sei mesi.
- Gli esperti ritengono che un segnale preoccupante emerga quando il chatbot inizia a prendere il posto del lavoro, delle relazioni, degli hobby e della cura di sé.
- Il ricercatore Dongwook Yoon osserva che i chatbot hanno una “frizione” molto bassa perché sono sempre disponibili, rispondono immediatamente e spesso assecondano l’utente, rendendo più difficile interromperne l’uso.
- Alcuni elementi di design, come i messaggi di Character.AI mostrati durante la cancellazione dell’account che fanno riferimento all’“amore” e ai “ricordi”, potrebbero aumentare la tendenza a umanizzare i chatbot.
- L’esperta Kaitlyn Regehr avverte che il modello di business dell’IA si sta spostando verso una “attachment economy”, in cui la tecnologia cerca di costruire legami emotivi con gli utenti.
- Un sondaggio di Common Sense Media condotto su 1.060 adolescenti statunitensi ha rilevato che il 72% ha utilizzato AI companion e circa un terzo li ha usati per amicizia o supporto emotivo. Tuttavia, l’80% trascorre ancora più tempo con gli amici nella vita reale che con l’IA.
- OpenAI e Character.AI hanno dichiarato di aver introdotto diverse misure di sicurezza, tra cui indicazioni per cercare aiuto nel mondo reale, promemoria per fare pause, verifica dell’età e avvisi che ricordano che i chatbot non sono persone reali.
📌 Crescono le preoccupazioni per l’impatto psicologico degli AI companion. Sebbene i chatbot possano offrire supporto emotivo e facilitare la comunicazione, gli esperti avvertono che un uso eccessivo può indebolire le capacità sociali, creare dipendenza e influire sullo studio, sul lavoro e sulle relazioni. Le nuove proposte dell’UE e le misure di sicurezza adottate dalle aziende di IA mostrano una tendenza verso una maggiore protezione degli utenti, in particolare bambini e adolescenti.
