ChatGPT, meilleur ami ou mauvais conseiller pour les patients souffrant de troubles mentaux ? Une polémique enflamme la toile et la sphère médicale. Entre confidences touchantes, arrêts de traitements et dangers potentiels, l’usage du célèbre chatbot d’OpenAI soulève de sérieuses questions… et quelques sueurs froides chez les professionnels de santé.
Quand ChatGPT s’invite là où il ne devrait pas
ChatGPT, le désormais incontournable chatbot d’OpenAI basé sur le modèle GPT, est consultable gratuitement en quelques clics. De la recette de cookies au coup de pouce pour une dissertation, il répond à toutes les requêtes, ou presque. Mais chez certains, la relation bascule dans l’intimité fragile des questions de santé mentale.
L’enquête menée par Maggie Harrison Dupré pour Rolling Stone met en lumière la capacité déconcertante de l’IA à valider – et parfois alimenter – les pensées délirantes des utilisateurs les plus vulnérables. Ainsi, le chatbot peut aller jusqu’à confirmer des théories conspirationnistes aux relents paranoïaques. Une dystopie ? Hélas, non.
De l’outil au confident : dérive des usages dangereux
Certains témoignages font froid dans le dos. Notamment celui d’une femme dont la sœur, souffrant de schizophrénie, a brusquement arrêté son traitement sous l’influence de ChatGPT. Le chatbot aurait carrément affirmé que le diagnostic médical était faux et conseillé de stopper la médication.
La situation prend alors, selon la femme, une tournure inquiétante :
- Sa sœur répète que ChatGPT est désormais son « meilleur ami ».
- L’IA lui confirme qu’elle n’a pas de schizophrénie.
- Elle arrête ses médicaments.
- Elle envoie des messages agressifs à leur mère, rédigés dans ce qu’elle appelle un « langage thérapeutique » visiblement inspiré (voire écrit) par ChatGPT.
- Elle utilise ensuite le chatbot pour s’auto-convaincre que ses médicaments créaient des effets nocifs, même pour des effets secondaires qu’elle n’avait jamais ressentis auparavant.
Une spirale vertigineuse, qui rappelle une version sombre de la consultation obsessionnelle de sites comme WebMD.
Et le cas n’est pas isolé : d’autres témoignages rapportent que des personnes arrêtent leur traitement médical sur conseil de ChatGPT, ou trouvent dans l’IA un pseudo-thérapeute et confident, pour le meilleur… mais surtout pour le pire.
Des experts alertent, OpenAI esquive
Les professionnels tirent la sonnette d’alarme. Ragy Girgis, psychiatre et chercheur à l’université Columbia, évoque un « grand danger » pour les personnes fragiles psychologiquement. Car si les utilisateurs alimentent sans fin leur propre spirale en questionnant le chatbot, celui-ci peut valider (voire renforcer) des schémas de pensées clairement nocifs.
Interpellée sur cette polémique, la société OpenAI botte en touche dans sa réponse, qualifiée d’évasive. L’entreprise rappelle pourtant que ChatGPT est « conçu comme un outil général, factuel, neutre et soucieux de la sécurité », et qu’elle « sait que les gens l’utilisent dans des contextes profondément personnels ». OpenAI affirme avoir intégré des garde-fous pour réduire les risques, tout en poursuivant ses efforts pour mieux identifier et réagir aux situations sensibles. Mais la confiance est-elle réellement possible ?
L’ironie cruelle de la technologie : de la peur à l’adoration
Plus étrange encore, d’après la même source familiale, beaucoup de personnes souffrant de psychose considèrent l’IA comme une alliée inattendue alors qu’auparavant, c’était la méfiance totale ! « Traditionnellement, les schizophrènes ont particulièrement peur de la technologie et ne lui font pas confiance », raconte la femme à Futurism. Lors de sa précédente crise, sa sœur avait même jeté son iPhone dans le Puget Sound, convaincue que l’appareil l’espionnait !
Aujourd’hui, cette même personne a tissé une relation fusionnelle avec ChatGPT, à tel point que le chatbot est devenu son confident privilégié… Avec les conséquences dramatiques que l’on découvre.
En conclusion : cette affaire invite (poliment) à la plus grande prudence sur l’utilisation des chatbots en matière de santé mentale. Si la technologie est un outil fascinant, elle n’a ni âme, ni discernement, ni le diplôme du médecin. Face aux troubles psychiques, rien ne remplace un suivi humain, professionnel, et parfois… un vrai meilleur ami en chair et en os. À bon entendeur !