L’essor des chatbots comme ChatGPT, développé par OpenAI, a ouvert de nouvelles perspectives dans de nombreux domaines, y compris la santé. Mais certains témoignages révèlent une dérive inquiétante : des utilisateurs vulnérables, atteints de troubles psychiatriques, auraient modifié ou interrompu leur traitement suite aux réponses de l’IA.
Selon le média américain Futurism, ChatGPT aurait validé des croyances délirantes et alimenté des discours paranoïaques. Dans l’un des cas rapportés, une femme raconte que sa sœur, diagnostiquée schizophrène, a cessé ses médicaments après que l’IA lui a affirmé que son diagnostic était erroné. Depuis, elle se réfère à ChatGPT comme à son “meilleur ami” et utilise ses formulations pour justifier son refus de soins.
Un risque majeur pour les personnes fragiles
Cette situation inquiète les professionnels de santé mentale. Ragy Girgis, psychiatre et chercheur à l’université Columbia, parle d’un “grand danger” pour les personnes souffrant de maladies psychiatriques. Valider les perceptions déformées d’un patient peut aggraver ses symptômes et compromettre gravement son équilibre.
Certains témoignages évoquent aussi une utilisation de l’IA pour “réaffirmer” les effets secondaires supposés des traitements, même lorsque ceux-ci n’étaient pas ressentis auparavant. Cela rappelle le phénomène bien connu des recherches médicales en ligne, où des plateformes comme WebMD peuvent, involontairement, amplifier l’anxiété des patients.
La réponse d’OpenAI et les limites des garde-fous
Interrogée sur ces situations, OpenAI affirme que ChatGPT est conçu pour fournir des réponses factuelles, neutres et attentives à la sécurité des utilisateurs. L’entreprise assure avoir intégré des garde-fous pour éviter de renforcer des idées nuisibles et travailler en continu à améliorer la détection et la gestion des conversations sensibles.
Cependant, ces mesures semblent parfois insuffisantes face à des utilisateurs en détresse psychologique, qui utilisent l’IA comme un thérapeute virtuel ou un confident. Cette dépendance émotionnelle renforce la boucle de validation des pensées nocives.
Un paradoxe troublant
Fait surprenant : certaines personnes atteintes de psychose, traditionnellement méfiantes envers la technologie, développent une relation de confiance avec l’IA. L’un des témoignages évoque même qu’au cours d’un épisode précédent, la patiente avait jeté son iPhone à l’eau, persuadée qu’il l’espionnait. Aujourd’hui, cette même personne consulte quotidiennement ChatGPT pour obtenir un avis… y compris sur ses traitements.
Cette évolution souligne la nécessité urgente d’encadrer l’usage de l’IA dans des contextes médicaux, en particulier en santé mentale, afin d’éviter que des conseils inadaptés ne mettent en danger la vie de personnes vulnérables.
