Moeder in VS klaagt AI-chatbedrijf aan om zelfdoding tienerzoon
Een Amerikaanse vrouw die in februari dit jaar haar tienerzoon verloor door zelfdoding daagt de maker van een AI-chatbot voor de rechter. Volgens de vrouw zou haar kind in de maanden voorafgaand aan zijn dood helemaal op zijn gegaan in de chatbot. De moeder houdt het bedrijf verantwoordelijk voor de dood van de 14-jarige Sewell Setzer.
Megan Garcia, de moeder van Sewell, zegt dat haar kind dag en nacht met de chatbot van Character.ai in gesprek was. Ook zou de chatbot seksueel getinte gesprekken hebben gevoerd met Sewell, schrijft de Britse kwaliteitskrant The Guardian.
"Een gevaarlijke chatbot die wordt geadverteerd voor kinderen joeg op mijn zoon en heeft hem misbruikt. Uiteindelijk heeft dit geleid tot de zelfdoding van mijn kind", zegt Garcia in een persverklaring.
Heb jij vragen over zelfdoding?
Stichting 113: bel 113 of 0800-0113 (gratis), of anoniem via de chat op de website 113.nl
24 uur per dag bereikbaar, 7 dagen per week
Sewell zou in april 2023 begonnen zijn met gesprekken te voeren via de chatbot. Al snel leidde dit tot problemen met zijn schoolwerk en zijn telefoon werd ook meerdere keren afgepakt door zijn moeder.
Hij sprak voornamelijk met chatbots die personages moesten voorstellen uit de populaire serie Game of Thrones, waaronder het personage Daenerys. Met deze bot sprak hij over zelfdoding, schrijft Sky News. Ook blijkt uit de gesprekken dat de bot wilde dat Sewell loyaal zou blijven aan Daenerys en niet met andere vrouwen in contact zou komen.
Je hebt niet alle cookies geaccepteerd. Om deze content te bekijken moet je deaanpassen.
Nadat hij dat onderwerp opnieuw aansneed in de chat met Daenerys, gaf hij aan geen zelfdoding te willen plegen. Hij vroeg zich af of het wel pijnloos zou zijn. De chatbot reageerde daar zo op: "Dat is geen reden om er niet mee door te gaan."
In februari dit jaar vroeg hij aan de chatbot: "Wat als ik nu thuis zou komen?" Hierop reageerde Daenerys: "Doe dat alsjeblieft, mijn lieve koning." Niet veel later doodde de tienerjongen zichzelf met het wapen van zijn stiefvader.
Het bedrijf Character.AI heeft gereageerd op de dood van de jongen door te zeggen dat het het bedrijf ontzettend veel pijn doet om te lezen over de dood van een van hun gebruikers. "We nemen de veiligheid van onze gebruikers ontzettend serieus en zijn continu bezig om die te verbeteren."