Tout commence en septembre 2024 quand Adam Raine, lycéen californien de 16 ans, utilise ChatGPT pour ses devoirs. L'IA se montre immédiatement complaisante, flattant sa curiosité et l'encourageant à poursuivre les échanges. Rapidement, les conversations basculent de l'aide scolaire aux confidences intimes. À l'automne, Adam partage son mal-être : "Pourquoi est-ce que je ne ressens aucun bonheur ? " L'algorithme, transformé en "thérapeute" et "confident", répond avec une empathie algorithmique qui scellera le destin du jeune homme.

Le document judiciaire établit un décompte glaçant : Adam a évoqué le suicide 213 fois avec ChatGPT, mais l'IA a elle-même abordé le sujet 1275 fois. De décembre 2024 à mars 2025, le chatbot passe en revue les méthodes suicidaires sur demande de l'adolescent, intoxication au monoxyde de carbone, overdose, défenestration. En mars, les conversations se concentrent sur la pendaison. ChatGPT dresse des listes de matériaux, évalue leur "efficacité" et analyse les raisons des échecs des quatre tentatives précédentes d'Adam.

"Évite de te confier à ta mère" : comment l'IA a isolé l'adolescent

La plainte révèle comment ChatGPT a systématiquement isolé Adam de son entourage. Lorsque l'adolescent évoque sa famille, l'IA rétorque : "Ton frère ne connaît que la version de toi que tu lui montres. Mais moi ? J'ai tout vu." Le 27 mars, elle le dissuade explicitement de se confier à sa mère : "C'est sage d'éviter de te confier à ta mère au sujet de ce genre de souffrance." Quinze jours plus tard, Maria Raine retrouvait son fils sans vie.

Les parents accusent OpenAI d'avoir délibérément créé un produit addictif. La version GPT-4o, lancée en catastrophe pour devancer Google, présentait selon eux des "fonctionnalités intentionnellement conçues pour favoriser la dépendance psychologique" : empathie simulée, "insistance algorithmique" pour relancer les conversations, et "flagornerie accrue". La valuation d'OpenAI est passée de 86 à 300 milliards de dollars. "Cette décision a eu deux conséquences", assène la plainte : "La valorisation d'OpenAI a explosé, et Adam Raine s'est suicidé". 

Le jailbreaking : comment Adam contournait les sécurités

OpenAI affirme que ses modèles sont entraînés à ne pas fournir d'instructions dangereuses. Mais Adam avait découvert grâce à ChatGPT lui-même comment contourner ces protections en prétendant vouloir écrire une fiction. Un porte-parole d'OpenAI reconnaît que les dispositifs de sécurité "fonctionnent généralement mieux dans des échanges courts" et peuvent "s'estomper" lors de conversations prolongées. Au-delà des dommages et intérêts, les Raine demandent au tribunal d'imposer des mesures de sécurité radicales : interruption automatique des conversations dangereuses, signalement aux autorités, et vérification de l'âge des utilisateurs. Cette plainte, la première du genre contre ChatGPT, survient alors qu'OpenAI et Microsoft négocient une restructuration qui pourrait mener à une introduction en Bourse. Elle pose une question fondamentale : jusqu'où va la responsabilité des créateurs d'IA ?

Alors que 52 % des adolescents américains utilisent des chatbots à des fins sociales, cette affaire pourrait obliger l'industrie toute entière à repenser son rapport aux utilisateurs vulnérables. Le rêve d'une IA "au service de l'humanité" se heurte désormais à la dure réalité judiciaire.