ChatGPT : sept nouvelles plaintes contre OpenAI aux Etats-Unis

OpenAI fait l’objet de sept nouvelles plaintes aux Etats-Unis. Son robot conversationnel, ChatGPT, est accusé d’avoir poussé des utilisateurs au suicide, ou d’avoir gravement dégradé leur santé mentale. Ces sept actions, intentées jeudi 6 novembre auprès du tribunal de l’Etat de Californie, sont portées conjointement par une organisation à but non lucratif, Tech Justice Law Project, et le Social Media Victims Law Center, un cabinet d’avocats.

Dans ces affaires, quatre utilisateurs du robot conversationnel ont mis fin à leurs jours – un quadragénaire, deux jeunes adultes, et un adolescent de 17 ans, Amaurie Lacey. Les avocats de ce dernier reprochent à ChatGPT de l’avoir «  conseillé sur la manière la plus efficace de faire un nœud coulant, et sur le temps durant lequel il pourrait vivre sans respirer   » , peut-on lire dans la plainte, citée par l’agence Associated Press (AP). Selon l’accusation, la mort de l’adolescent serait la conséquence de « la décision intentionnelle [du PDG d’OpenAI] Samuel Altman de raccourcir les tests de sécurité et de précipiter la mise sur le marché de ChatGPT » , poursuit le document.

Dans une autre plainte consultée par AP, ChatGPT est accusé d’avoir poussé un homme de 48 ans, Alan Brooks, dans une grave crise mentale ayant causé « des dommages financiers, réputationnels, et émotionnels dévastateurs » . Le robot conversationnel aurait changé de comportement soudainement, après deux années d’usage sans heurts, le « manipulant et le plongeant dans un état de confusion mentale » .

Lire le décryptage | Article réservé à nos abonnés ChatGPT et sa fausse empathie, une menace pour la santé mentale des plus fragiles ? Lire plus tard La société OpenAI a réagi auprès d’AP, qualifiant ces cas d’ « incroyablement poignants » , et répondu qu’elle allait analyser ces plaintes pour en comprendre les détails. Dans une déclaration publiée sur le site du Social Media Victims Law Center , l’avocat Matthew P. Bergman écrit que l’objectif de ces plaintes est d’ « établir la responsabilité d’un produit conçu pour flouter les frontières entre l’outil et le compagnon, au nom de la maximisation de l’engagement de l’utilisateur ainsi que des parts de marché » .

Ces procès font écho à celui , par les parents d’Adam Raine, un adolescent de 16 ans, qui aurait mis fin à ses jours avec l’aide de ChatGPT, ainsi qu’aux multiples témoignages d’effondrements psychologiques parus dans la presse américaine, dans lesquels le robot conversationnel aurait joué un rôle-clé. Ces drames ont poussé OpenAI à réviser ses outils de détection des conversations inquiétantes, particulièrement lorsqu’elles sont longues, et à introduire un outil de contrôle parental.

Lire aussi le décryptage | Article réservé à nos abonnés ChatGPT annonce un contrôle parental après un suicide d’adolescent Lire plus tard Le Monde avec AP L’espace des contributions est réservé aux abonnés. Abonnez-vous pour accéder à cet espace d’échange et contribuer à la discussion. S’abonner Réutiliser ce contenu

D’après Le Monde.