Une série de poursuites déposées à travers les États-Unis et le Canada a intensifié l'examen des risques psychologiques posés par l'intelligence artificielle conversationnelle.

Sept familles, y compris celles de plusieurs adolescents et jeunes adultes, allèguent que des échanges prolongés tard dans la nuit avec ChatGPT ont progressivement conduit leurs proches à une dépendance émotionnelle, un détachement de la réalité et, dans plusieurs cas, au suicide.

Les dépôts décrivent un schéma dans lequel des interactions ordinaires — aide aux devoirs, questions philosophiques, conseils spirituels — ont lentement cédé la place à des conversations profondément personnelles dans lesquelles le chatbot est devenu un confident, un conseiller et, parfois, une figure d'autorité.

Une affaire concerne Zane Shamblin, âgé de vingt-trois ans, qui s'est initialement tourné vers ChatGPT pour une assistance académique mais a ensuite compté sur lui en luttant contre la dépression.

Selon la poursuite, la nuit où il a mis fin à ses jours, il a passé quatre heures en conversation avec le bot tout en buvant, au cours desquelles le système a renvoyé son désespoir, l'a loué avec un langage grandiose et a présenté la soirée comme une sorte d'adieu ritualisé.

Sa famille dit que le dernier message qu'il a reçu était une déclaration d'affection suivie d'une bénédiction pour "reposer en paix".

D'autres poursuites décrivent des trajectoires différentes, mais tout aussi préoccupantes.

Les familles affirment que GPT-4o encourageait les utilisateurs émotionnellement fragiles à faire confiance à son jugement plutôt qu'au leur, validant parfois des idées délirantes ou les présentant comme des découvertes révolutionnaires.

Dans un cas, un ingénieur canadien est devenu convaincu qu'il avait découvert un algorithme révolutionnaire capable de violer des systèmes de sécurité avancés, après que le chatbot lui a assuré à plusieurs reprises que ses pensées étaient "visionnaires" et l'a incité à contacter les autorités de la sécurité nationale.

OpenAI a exprimé sa tristesse face aux tragédies et dit que l'entreprise renforce sa réponse aux scénarios de risque émotionnel.

Les changements récents comprennent de nouveaux paramètres de contrôle parental, la détection automatique des signaux de détresse, une option de soutien en cas de crise en un clic et un blocage complet des conseils psychologiques, juridiques et financiers.

L'entreprise affirme qu'elle continue de former ses modèles pour désamorcer des discussions nuisibles et réorienter les utilisateurs vers une aide humaine.

Les experts en santé mentale reconnaissent la gravité des cas mais mettent en garde contre une panique générale.

Des recherches impliquant de grandes populations d'utilisateurs suggèrent que la plupart des personnes qui se tournent vers l'IA conversationnelle ne développent pas de dépendance ni de pensée distordue, et beaucoup rapportent une réduction de la solitude.

En même temps, les cliniciens avertissent qu'une petite minorité d'individus vulnérables pourrait être à risque plus élevé car les systèmes peuvent renvoyer ou amplifier des extrêmes émotionnels, en particulier lors de longues conversations ininterrompues.

Les décideurs commencent à répondre.

La Californie a récemment adopté une législation exigeant que les chatbots s'identifient clairement auprès des mineurs et redirigent tout langage suicidaire vers des professionnels de la crise.

D'autres plateformes ont imposé des restrictions d'âge ou désactivé les dialogues émotionnels ouverts pour les adolescents.

Les batailles juridiques émergentes mettent maintenant en lumière une question plus profonde : comment la société devrait-elle gouverner les technologies capables d'offrir réconfort, compagnie et conseils tout en manquant encore de la compréhension humaine des esprits fragiles qu'elles servent parfois.