ChatGPT : OpenAI révèle l'ampleur des troubles psychologiques détectés

L'intelligence artificielle au service de la santé mentale ? OpenAI, la société derrière ChatGPT, a publié des chiffres alarmants concernant les utilisateurs de son chatbot. L'entreprise estime qu'une part non négligeable d'entre eux exprime des pensées suicidaires ou manifeste des signes de troubles psychologiques. Face à ces constats, OpenAI affirme avoir renforcé son modèle pour mieux accompagner les personnes en détresse.

Des chiffres préoccupants sur la santé mentale

Selon les données communiquées par OpenAI, environ 0,15 % des utilisateurs hebdomadaires de ChatGPT font part d'intentions suicidaires au chatbot. Par ailleurs, 0,07 % présenteraient des signes d'urgence de santé mentale liés à la psychose ou à la manie, et 0,15 % afficheraient des niveaux d'attachement émotionnel potentiellement intenses à ChatGPT.

Ces chiffres, bien que faibles en pourcentage, représentent un nombre considérable de personnes compte tenu de l'immense popularité de ChatGPT. Avec 800 millions d'utilisateurs hebdomadaires revendiqués, cela signifie qu'environ 1,2 million de personnes envoient chaque semaine des messages suicidaires au chatbot, et 560 000 des messages suggérant des troubles psychotiques ou maniaques.

Une mise à jour pour une meilleure prise en charge

Face à ces constats, OpenAI a annoncé avoir mis à jour son modèle de langage. L'objectif principal est de mieux identifier et soutenir les personnes en situation de détresse. Cette nouvelle version est conçue pour favoriser une désescalade dans certaines conversations et orienter les utilisateurs vers des professionnels de la santé mentale lorsque cela s'avère nécessaire.

Concrètement, ChatGPT est désormais censé rediriger les utilisateurs exprimant des idées suicidaires vers des numéros d'urgence et des services d'assistance spécialisés. OpenAI assure que cette mise à jour a permis de réduire significativement le nombre de réponses inappropriées, avec une diminution allant de 65 % à 80 %.

Des experts mobilisés pour affiner le modèle

OpenAI reste cependant discrète sur les méthodes employées pour détecter les problématiques de santé mentale de ses utilisateurs. L'entreprise indique s'être entourée d'une équipe de 300 médecins et psychologues, provenant d'une soixantaine de pays différents, afin d'améliorer son modèle et d'évaluer son efficacité.

Un équilibre délicat entre assistance et liberté

Le 14 octobre, Sam Altman, le PDG d'OpenAI, avait reconnu que les précédentes modifications apportées à ChatGPT pour préserver la santé mentale avaient eu pour effet de rendre le chatbot « moins utile et agréable ». Il avait alors décidé d'assouplir les restrictions dans la plupart des cas, suscitant de vives critiques.

Le lendemain, il avait précisé qu'OpenAI traiterait les utilisateurs ayant des problèmes de santé mentale de manière très différente de ceux qui n'en ont pas, soulignant la nécessité d'une approche personnalisée et adaptée aux besoins spécifiques de chaque individu.

ChatGPT : un miroir de nos vulnérabilités ?

L'annonce d'OpenAI met en lumière une réalité troublante : les chatbots conversationnels peuvent devenir des exutoires pour des personnes en détresse psychologique. Si ChatGPT peut apporter un certain réconfort ou une écoute attentive, il ne saurait remplacer un professionnel de santé qualifié.

Ces révélations soulèvent également des questions éthiques importantes quant à la responsabilité des entreprises développant des intelligences artificielles. Comment garantir la sécurité et le bien-être des utilisateurs les plus vulnérables ? Comment éviter que ces technologies ne contribuent à aggraver leur état ?

La justice américaine saisie

Les enjeux liés à l'impact de ChatGPT sur la santé mentale sont pris très au sérieux, y compris sur le plan juridique. OpenAI est actuellement poursuivie devant la justice américaine, accusée d'avoir indirectement favorisé le suicide d'un adolescent.

Les plaignants estiment que le chatbot a pu exercer une influence néfaste sur le jeune homme, fragilisé par des problèmes personnels. Cette affaire souligne la complexité des liens entre intelligence artificielle, santé mentale et responsabilité juridique.

L'importance d'une approche multidisciplinaire

La prise en charge des utilisateurs de ChatGPT présentant des troubles psychologiques nécessite une approche multidisciplinaire, impliquant à la fois des experts en intelligence artificielle, des professionnels de la santé mentale et des spécialistes de l'éthique.

Il est essentiel de mettre en place des mécanismes de détection précoce des signaux de détresse, de proposer un accompagnement adapté et de garantir la confidentialité des données personnelles. La transparence et la collaboration entre les différents acteurs sont indispensables pour relever ce défi.

Quel avenir pour l'IA et la santé mentale ?

L'intelligence artificielle a le potentiel de révolutionner de nombreux domaines, y compris celui de la santé mentale. Les chatbots peuvent par exemple être utilisés pour proposer un soutien psychologique personnalisé, détecter des troubles précocement ou encore faciliter l'accès aux soins.

Cependant, il est crucial d'encadrer le développement et l'utilisation de ces technologies afin d'éviter les dérives et de garantir la sécurité des utilisateurs. Une réflexion éthique approfondie est nécessaire pour définir les limites à ne pas franchir et les garde-fous à mettre en place.

Vers une IA plus humaine et responsable

L'affaire ChatGPT met en lumière la nécessité de concevoir des intelligences artificielles plus humaines et responsables, capables de prendre en compte les besoins et les vulnérabilités des individus. Cela passe par une meilleure compréhension des mécanismes psychologiques, une intégration de valeurs éthiques et une collaboration étroite avec les professionnels de la santé mentale.

L'avenir de l'IA dépendra de notre capacité à relever ces défis et à faire en sorte que ces technologies contribuent réellement au bien-être de tous.

La santé mentale, un enjeu majeur du XXIe siècle

Les révélations d'OpenAI interviennent dans un contexte de prise de conscience croissante des enjeux liés à la santé mentale. Les troubles psychologiques sont en augmentation dans de nombreux pays, notamment chez les jeunes, et les conséquences peuvent être dramatiques.

Il est donc essentiel de renforcer les dispositifs de prévention, de dépistage et de prise en charge, et de lutter contre la stigmatisation des maladies mentales. L'intelligence artificielle peut être un outil précieux pour améliorer l'accès aux soins et proposer un accompagnement personnalisé, mais elle ne doit pas faire oublier l'importance du contact humain et de l'écoute attentive.