Les chatbots religieux sont de plus en plus nombreux, et leurs dérapages aussi

Introduction : En s’immiçant dans le soutien psychologique et spirituel des croyants, les chatbots religieux prétendent remplacer les guides humains. Mais face aux fausses réponses et aux dérapages des grands modèles de langage, sociologues et responsables religieux tirent la sonnette d’alarme… En poursuivant mon enquête, j’ai découvert de nombreux cas de chatbots ayant approuvé ou encouragé des utilisateurs à faire du mal à autrui ou à eux-mêmes, au terme de conversations qui les avaient entraînés très loin et avaient bouleversé leur vie. Ce phénomène porte même un nom: la psychose GPT, ou psychose induite par l’IA.

https://www.slate.fr/societe/pourquoi-chatbots-religieux-derapent-confessions-virtuelles