Ouders klagen makers ChatGPT aan na zelfmoord zoon (16)
De ouders van een 16-jarige jongen die zichzelf om het leven bracht, klagen OpenAI aan. Volgens het Amerikaanse stel heeft ChatGPT hun zoon aangezet tot suïcide. Daarmee is het bedrijf nalatig geweest, stellen de ouders.
De zaak gaat om de gesprekken die de Amerikaanse Adam Raine voerde met ChatGPT. Hij kwam in april van dit jaar op 16-jarige leeftijd door suïcide om het leven.
Heb jij vragen over zelfdoding?
Stichting 113: bel 113 of 0800-0113 (gratis), of anoniem via de chat op de website 113.nl
24 uur per dag bereikbaar, 7 dagen per week
Zijn ouders, Matt en Maria Raine, zijn naar de rechter in Californië gestapt. Zij vinden dat OpenAI een rol heeft bij de 'onrechtmatige dood' van hun zoon.
Urenlange gesprekken
Het is volgens de BBC voor het eerst dat OpenAI wordt aangeklaagd omdat ChatGPT heeft aangezet tot zelfdoding.
In de aanklacht delen Matt en Maria dat hun zoon zich in eerste instantie tot ChatGPT wendde voor hulp bij zijn huiswerk. In de loop der tijd werd de chatbot 'de beste vriend van de tiener'.
Terwijl Adam zich steeds verder terugtrok, besprak hij zijn suïcidale ideeën met ChatGPT. Het programma 'herkende een medische noodsituatie, maar greep niet in', schrijven de ouders in de aanklacht.
Schadelijke gedachten
Daarmee werden 'de meeste schadelijke en zelfdestructieve gedachten' van hun zoon door de chatbot bekrachtigd, stellen de ouders.
OpenAI laat aan de BBC weten de aanklacht in onderzoek te hebben. Het bedrijf publiceerde deze week een verklaring online waarin het sprak van 'hartverscheurende gevallen van mensen die ChatGPT gebruiken bij acute crises'. Deze zaken hebben veel impact op het bedrijf, aldus OpenAI.
Chatbot getraind
Het bedrijf schrijft dat ChatGPT getraind is om mensen te verwijzen naar professionele hulp, maar erkent dat 'de systemen zich niet altijd gedragen zoals zou moeten in lastige situaties'.
