Elon Musk kondigt 'kindvriendelijke' chatbot aan, en dat baart experts zorgen
Elon Musk heeft op X een 'kindvriendelijke' chatbot aangekondigd. De chatbot wordt een variant op Musks AI-tool Grok, waar onlangs een vierde versie van verscheen. Grok lag meerdere malen onder vuur vanwege antisemitische berichten en positieve opmerkingen over Hitler. Experts zetten dan ook hun vraagtekens bij de kindervariant.
De 'kindvriendelijke' chatbot draagt de knuffelbare naam Babygrok. Maar volgens experts is er niets knuffelbaars aan een AI-tool speciaal ontwikkeld voor kinderen. Zeker niet een tool waarbij de versie voor volwassenen juist is ontworpen om gebruikers 'minder politiek correcte' resultaten te tonen.
Hoewel er nog geen details bekend zijn over hoe Babygrok eruit gaat zien behalve dat deze 'kindvriendelijke content' zal tonen, maken experts zich zorgen. Allereerst menen zij dat het gebruik van AI door kinderen überhaupt niet wenselijk is. De technologie gestuurd door kunstmatige intelligentie zou de ontwikkeling van kinderen schaden, zegt DesignLab-onderzoeker Karolina La Fors.
Leren door trial-and-error
"We weten uit onderzoek dat generatieve AI, waar het hier om gaat, creativiteit in de weg staat. Het antwoord staat centraal in plaats van de weg ernaar toe. Dat is zeer schadelijk voor jonge kinderen in hun ontwikkeling. Zij moeten leren door trial-and-error."
Daarnaast weten we nog niet goed wat AI doet met de hechting van kinderen als zij al op zeer jonge leeftijd in contact komen met dit soort 'machines'. "Mens tot mens contact is namelijk enorm belangrijk bij de hechting van een kind", zegt La Fors. "De consequenties van dit soort technologieën voor kinderen vanaf de babyleeftijd zijn niet te overzien."
Dat wordt ook benadrukt door Harry Hol, mediapedagoog bij bureau Jeugd en Media. Volgens hem is het überhaupt geen goed idee om AI te ontwikkelen gericht op kinderen.
"Kinderen moeten vooral zelf hun eigen brein gebruiken. Gamen, of het bekijken van een film, dat is allemaal nog niet zo erg. Maar het is ook belangrijk dat zij zelf tekenen, buitenspelen, liedjes zingen enzovoort. En AI doet dat allemaal voor jou."
'Nooit met je oneens'
En volgens de mediapedagoog speelt er nog iets anders. Het gebruik van een chatbot is enorm verslavend, zegt hij.
"Een chatbot is het nooit met je oneens of is tegen je. Voor een kind is dat pleasegedrag heel fijn. Alles wat ze doen is goed, krijgen ze van een chatbot te horen. Maar dat is niet wat een kind nodig heeft. Een kind moet ook tegen grenzen aanlopen. Ik zie totaal geen voordelen van chatbots speciaal voor kinderen."
En dan is daar nog het dubieuze karakter van 'moeder' Grok. Grok is geen onbekende in controverse. Zo deelde de chatbot antisemitische content en complottheorieën over de genocide van witte Zuid-Afrikanen, en noemde het zichzelf 'MechaHitler'. Een gebruiker vertelde onlangs tegen de Britse krant The Guradian zelfs hoe hij onderwerp werd van extreme, gewelddadige en individueel op maat gemaakte aanvalsfantasieën toen hij Grok daarom vroeg.
Allemaal niet heel kindvriendelijk.
'Als de buurman met complottheorieën'
"Een chatbot die nazi's ophemelt, ontwikkeld door een man die zijn eigen discutabele visie en agenda middels algoritmes agendeert. En waar nu een kinderversie van komt. Wat kan er verkeerd gaan?", zegt Hol gekscherend.
Om er serieus aan toe te voegen: "Leerlingen in de basisschoolleeftijd kunnen nog niet goed onderscheid maken tussen fictie en non-fictie. Wat voor invloed heeft een chatbot die zich gedraagt als jouw vriend, maar je vervolgens verkeerd gedrag aanleert? Het is alsof je aan die buurman met complottheorieën vraagt of hij op jouw kind wil passen."
Een zorg die gedeeld wordt door Roy Vathorst, oprichter van Digiwijzer. Hij noemt Babygrok nu al een groot probleem.
"De AI-toepassingen die we tot nu toe kennen gericht op kinderen zijn er om hen te ondersteunen. Dat wordt vaak samen met scholen of andere instanties ontwikkeld. Dan is er in ieder geval grip op. Leerlingen weten namelijk niet altijd of de informatie die ze gebruiken juist is.
Maar als een wereldwijde speler met een commercieel oogmerk dit groots gaat uitrollen, zie ik het alleen maar fout gaan. Straks gaan kinderen dit zonder enige vorm van begeleiding gebruiken, dat moeten we echt niet willen."
Proefkonijnen
Volgens Vathorst moet er zelfs bij de AI-diensten voor volwassenen nog van alles worden verbeterd.
"Veel AI-tools maken nog fouten. Een chatbot voor kinderen komt dan ook nog veel te vroeg. Ik vergelijk het een beetje met Youtube Kids. Daarvan dachten we ook allemaal dat dat heel leuk en veilig zou zijn, totdat we zagen dat daar ook bepaalde algoritmes zorgden voor kwade uitspraken in Dora-filmpjes."
YouTube heeft al twintig jaar ervaring, benadrukt hij. "Van alles wat we tot nu toe van deze dienst weten, zou ik dan ook oppassen met het woord 'kindvriendelijk'. Los van het feit dat wij onze kinderen niet moeten gebruiken als proefkonijnen om onze AI-modellen te trainen."
