Honderdduizenden gesprekken chatbot Grok te lezen via Google
Voor wie AI-chatbot Grok gebruikt, is het oppassen geblazen. Honderdduizenden gesprekken van gebruikers zijn op Google terechtgekomen en daardoor voor de hele wereld te lezen. De gesprekken die online staan gaan bijvoorbeeld over medisch advies, ook vragen mensen aan Grok hoe ze drugs kunnen fabriceren.
Grok, de chatbot van miljardair Elon Musk, deelde zeker 370.000 gesprekken, meldt het Amerikaanse zakenblad Forbes. Dat gebeurde waarschijnlijk zonder dat gebruikers dat doorhadden.
De gesprekken verschenen op Google doordat gebruikers ze met een unieke link wilden delen, bijvoorbeeld om het gesprek met de AI-bot aan iemand te mailen. Zodra die unieke link was aangemaakt, kon Google het gesprek indexeren. Daarmee was het voor iedereen te lezen.
Niet allemaal even onschuldig
Forbes sprak met de Britse journalist Andrew Clifford, wiens gesprekken met Grok onbedoeld online verschenen. Hij vroeg Grok om samenvattingen te maken van de voorpagina's van kranten. Hij had geen idee dat zijn gesprek vervolgens openbaar was, zei hij tegen Forbes.
Volgens Forbes vroegen gebruikers Grok ook veel minder onschuldige dingen. Zo legde de chatbot uit hoe Musk omgebracht zou kunnen worden, hoe drugs te fabriceren of malware te programmeren.
Blijft altijd online staan
Luc Rocher, universitair hoofddocent aan het Oxford Internet Institute, zegt tegen de BBC dat AI-chatbots 'een regelrechte ramp voor de privacy' zijn. In de gelekte gesprekken zijn namen, locaties en gevoelige details te lezen. "Zodra dit online staat, blijft het altijd beschikbaar", zegt Rocher.
Grok kwam eerder in opspraak. Zo deelde de chatbot antisemitische content en complottheorieën over de genocide van witte Zuid-Afrikanen, en noemde het zichzelf 'MechaHitler'. Een gebruiker vertelde onlangs tegen de Britse krant The Guardian zelfs hoe hij onderwerp werd van extreme, gewelddadige en individueel op maat gemaakte aanvalsfantasieën toen hij Grok daarom vroeg.
Ging ook mis bij ChatGPT
Overigens is Grok niet de enige chatbot die 'per ongeluk' gesprekken online plaatste. Eerder deze maand ging dat mis bij ChatGPT van het bedrijf OpenAI. Ook daar ging het om gesprekken die gebruikers zelf per e-mail deelden en waarvoor een unieke link werd aangemaakt. OpenAI verwijderde de functie toen het lek werd ontdekt.
