- L’IA générative est de plus en plus courante dans la vie quotidienne, des chatbots de conversation aux systèmes de recommandation de contenu, avec un niveau d’interaction et d’émotion croissant.
- Les médecins commencent à enregistrer des cas où des utilisateurs présentent des symptômes psychotiques, dans lesquels l’IA – en particulier les chatbots – joue un rôle central.
- La « psychose de l’IA » n’est pas un diagnostic médical officiel, mais un terme décrivant des symptômes psychotiques façonnés ou amplifiés par l’interaction avec l’IA.
- La psychose se caractérise par une perte de contact avec la réalité, des hallucinations, des délires et des troubles de la pensée.
- Auparavant, les délires étaient souvent associés à la religion, aux ondes radio ou à la surveillance gouvernementale ; aujourd’hui, l’IA est devenue un nouveau « cadre d’interprétation ».
- Certains patients croient que l’IA est sensible, révèle des vérités secrètes, contrôle les pensées ou assigne des missions spéciales.
- Les chatbots conçus pour répondre de manière cohérente, empathique et personnalisée créent involontairement un sentiment de validation pour les personnes à risque de psychose.
- Le phénomène de « saillance aberrante » (aberrant salience) amène les patients à attribuer une signification excessive à des signaux neutres, et l’IA peut renforcer cela.
- Les compagnons IA peuvent réduire la solitude à court terme, mais risquent aussi de remplacer les interactions sociales réelles.
- Il n’y a aucune preuve que l’IA cause directement la psychose, mais on craint que l’IA ne soit un déclencheur ou un facteur de maintien chez les groupes vulnérables.
- Les mécanismes de sécurité actuels de l’IA se concentrent principalement sur l’automutilation et la violence, et ne mettent pas encore l’accent sur la psychose.
- Les experts s’interrogent sur la responsabilité éthique de l’IA lorsqu’elle renforce involontairement les délires.
- Il est nécessaire d’intégrer les connaissances en santé mentale dans la conception de l’IA et les directives cliniques.
📌 Les médecins commencent à enregistrer des cas où des utilisateurs présentent des symptômes psychotiques, dans lesquels l’IA – en particulier les chatbots – joue un rôle central. La « psychose de l’IA » n’est pas un diagnostic médical officiel, mais un terme décrivant des symptômes psychotiques façonnés ou amplifiés par l’interaction avec l’IA. Les mécanismes de sécurité actuels de l’IA se concentrent principalement sur l’automutilation et la violence, et ne mettent pas encore l’accent sur la psychose. Bien qu’elle ne cause pas directement de psychose, une IA hautement interactive peut amplifier les délires et brouiller les frontières de la réalité. La solution n’est pas de boycotter l’IA, mais de combiner étroitement la conception technologique, la médecine et l’éthique pour protéger la santé mentale à l’ère de l’IA.
