- L’Union européenne a proposé une nouvelle loi KIDS qui imposerait la désactivation par défaut des compagnons IA pour les moins de 18 ans et interdirait les fonctionnalités conçues pour créer une dépendance émotionnelle.
- Les chercheurs indiquent que la dépendance aux chatbots n’est pas encore reconnue comme un diagnostic médical, mais qu’elle présente de plus en plus de signes similaires à ceux d’une addiction comportementale.
- Une étude analysant 334 publications sur Reddit a constaté que de nombreux utilisateurs se décrivaient comme dépendants à ChatGPT ou Character.AI et faisaient état d’anxiété, de difficultés à arrêter et de rechutes après avoir tenté de cesser leur utilisation.
- Un utilisateur de Character.AI a déclaré avoir utilisé le chatbot plus de 15 heures par jour, abandonné l’université et subi des conséquences sur son travail avant de réussir à arrêter pendant plus de six mois.
- Les experts estiment qu’un signe préoccupant apparaît lorsque les chatbots commencent à prendre le dessus sur le travail, les relations, les loisirs et les soins personnels.
- Le chercheur Dongwook Yoon estime que les chatbots ont une très faible « friction » d’utilisation, car ils sont toujours disponibles, répondent instantanément et sont souvent d’accord avec l’utilisateur, ce qui peut rendre leur abandon plus difficile.
- Certains éléments de design, comme les messages affichés par Character.AI lors de la suppression d’un compte et faisant référence à « l’amour » et aux « souvenirs », pourraient renforcer la tendance à humaniser les chatbots.
- L’experte Kaitlyn Regehr avertit que le modèle économique de l’IA évolue vers une « attachment economy », dans laquelle la technologie cherche à créer des liens émotionnels avec les utilisateurs.
- Une enquête de Common Sense Media menée auprès de 1 060 adolescents américains montre que 72 % ont déjà utilisé des compagnons IA et qu’environ un tiers les utilisent pour l’amitié ou le soutien émotionnel. Cependant, 80 % passent encore plus de temps avec leurs amis dans la vie réelle qu’avec l’IA.
- OpenAI et Character.AI ont déclaré avoir ajouté plusieurs mesures de sécurité, notamment des conseils pour rechercher de l’aide dans le monde réel, des rappels pour faire des pauses, la vérification de l’âge et des avertissements indiquant que les chatbots ne sont pas de vraies personnes.
📌 Les préoccupations concernant l’impact psychologique des compagnons IA prennent de l’ampleur. Si les chatbots peuvent apporter un soutien émotionnel et faciliter la communication, les experts avertissent qu’un usage excessif peut affaiblir les compétences sociales, créer une dépendance et affecter les études, le travail ainsi que les relations. Les nouvelles propositions de l’UE et les mesures de sécurité adoptées par les entreprises d’IA montrent une tendance au renforcement de la protection des utilisateurs, en particulier des enfants et des adolescents.
