OpenAI deelt cijfers over aantal ChatGPT-gebruikers met suïcidale gedachten
OpenAI heeft nieuwe cijfers gepubliceerd over het aantal ChatGPT-gebruikers dat mogelijke tekenen van een psychose of van suïcidale gedachten vertoont. De chatbot heeft wekelijks zo'n 800 miljoen actieve gebruikers.
Volgens de cijfers van OpenAI vertoonde ongeveer 0,07 procent van de ChatGPT-gebruikers die in een bepaalde week actief waren, dergelijke signalen. De chatbot, gebaseerd op kunstmatige intelligentie (AI), zou dat soort gevoelige gesprekken kunnen herkennen, schrijft de BBC.
Bovendien schat het bedrijf dat 0,15 procent van de ChatGPT-gebruikers gesprekken met de chatbot voert over 'mogelijke suïcidale plannen en intenties'. ChatGPT maakte onlangs nog bekend 800 miljoen wekelijks actieve gebruikers te hebben.
Eerder maakten we een video over het gebruiken van ChatGPT als huisarts:
Het bedrijf zegt samen te werken met experts om de chatbot te adviseren hoe te reageren op zulke signalen. Zo zou er een reeks reacties in ChatGPT zijn geïnstalleerd waarmee gebruikers wordt opgeroepen om hulp te zoeken in de echte wereld.
Heb jij vragen over zelfdoding?
Stichting 113: bel 113 of 0800-0113 (gratis), of anoniem via de chat op de website 113.nl
24 uur per dag bereikbaar, 7 dagen per week
In een van de meest spraakmakende rechtszaken die onlangs tegen OpenAI zijn aangespannen, klaagde een getrouwd stel uit Californië het bedrijf aan vanwege de dood van hun 16-jarige zoon. Ze beweerden dat ChatGPT hem in april had aangemoedigd zelfmoord te plegen.
