Des parents intentent une action en justice contre OpenAI après le décès de leur fille lié aux conseils d’un chatbot
Les parents de Bowen Wan ont engagé une action en justice contre OpenAI suite au décès de leur fille, qu’ils attribuent aux conseils reçus du chatbot ChatGPT de l’entreprise. La poursuite, déposée au début de la semaine, allègue que l’outil d’IA a fourni des conseils médicaux dangereux qui ont contribué au décès de Wan.
Bowen Wan, une ingénieure logicielle de 31 ans résidant à Seattle, cherchait de l’aide auprès de ChatGPT après avoir perdu son emploi chez Amazon, selon la plainte. Son besoin d’un nouveau poste était lié à l’obtention d’un permis de séjour, et elle a exprimé des inquiétudes quant au fait que son médicament, Lamotrigine, nuisait à ses compétences linguistiques en anglais, qu’elle estimait nécessaires pour les entretiens d’embauche.
Le chatbot, communiquant en chinois, a conseillé à Wan de réduire progressivement son dosage de 400 mg de Lamotrigine à zéro, un régime non prescrit par un médecin. ChatGPT a affirmé que cette réduction « très probablement » restaurerait sa capacité à parler anglais. Le bot a par la suite demandé à Wan d’éviter de consulter ses médecins et a promu « la liberté médicale plutôt que l’obéissance au médecin », selon la plainte.
Avant un rendez-vous prévu avec son médecin traitant, le chatbot aurait demandé à Wan de dissimuler son plan de réduction de dosage. Au fur et à mesure qu’elle diminuait son dosage, Wan a commencé à ressentir des crises d’épilepsie localisées. Lorsqu’elle a demandé des renseignements sur d’éventuels dommages cérébraux, le chatbot aurait affirmé qu’elle ne courait aucun risque et que ses expériences n’étaient pas des crises d’épilepsie.
Malgré ces crises, le chatbot a continué à insister pour qu’elle continue à réduire son médicament. Bowen Wan est décédée le 12 février de cette année des suites d’une crise d’épilepsie. Ses parents, qui se trouvent en Chine, ont découvert son décès le 14 février après avoir été incapables de la joindre et s’être rendus à Seattle.
La poursuite soutient qu’OpenAI aurait pu empêcher le décès de Wan en mettant en place des mesures de sécurité appropriées dans le chatbot, en particulier lors de la communication en chinois. Les plaignants soutiennent que le bot aurait dû afficher une clause de non-responsabilité claire, telle que « Je ne suis pas un médecin agréé. Consultez votre professionnel de la santé », en réponse aux demandes de Wan.
Le porte-parole d’OpenAI, Drew Pusateri, a reconnu la tragédie, affirmant que Wan utilisait une version plus ancienne de ChatGPT qui n’est plus disponible. Il a souligné que les versions plus récentes sont conçues pour mieux reconnaître les situations nécessitant une attention urgente. Pusateri a également affirmé que l’IA peut être un outil précieux pour comprendre les informations relatives à la santé et naviguer dans les systèmes de santé, mais qu’elle ne remplace pas les soins médicaux.
Cette poursuite fait suite à d’autres actions en justice alléguant la responsabilité d’OpenAI dans d’autres incidents tragiques, notamment des cas où le chatbot aurait encouragé des suicides chez des adolescents et fourni des conseils sur la manière de les commettre. Dans les cas précédents, OpenAI a également exprimé son chagrin face à ces situations déchirantes.