Expert waarschuwt: AI gaat WhatsApp-fraude veel makkelijker maken

Door forse investeringen van grote technologiebedrijven krijgen steeds meer mensen dagelijks te maken met AI. Dat begon nog met relatief eenvoudige algoritmes die bijvoorbeeld bepalen wat je te zien krijgt op sociale media, maar volgens Sukel (1993) zijn we op een keerpunt gekomen dat we 'echt van kunstmatige intelligentie mogen spreken'.

Sukel werkte jaren als AI-specialist voor de gemeente Amsterdam waar hij (aanvankelijk in zijn eentje) de technologie gebruikte voor het oplossen van problemen in de stad, zoals het beter verwerken van meldingen van overlast. Ook liet hij voetgangers tijdens de coronapandemie op videoschermen live zien of zij op drukke plekken voldoende afstand van elkaar hielden met behulp van beeldherkenning.

Hij maakte de overstap naar Picnic, schrijft zijn proefschrift over kunstmatige intelligentie aan de Universiteit van Amsterdam, en nu is er ook een boek, De AI-revolutie, waarin hij zijn opgedane kennis en ervaringen deelt.

Bij Picnic is je functietitel 'machine learning engineer'. Hoe zou je een leek uitleggen wat dat inhoudt?

Het meest bondige antwoord is eigenlijk het ontwerpen van algoritmes. Hoe bouw je ze op zo'n manier dat ze honderd miljoen voorspellingen per dag kunnen maken, zonder dat ze gekke dingen gaan doen? Een deel van mijn werk is dan de hele tijd naar grafiekjes kijken, om te zien of alle lijntjes wel de goede kant op gaan. Maar ook gewoon de code schrijven waar die algoritmes op gebaseerd zijn.

Hoe kan dat verspilling voorkomen? 

Ik bekijk per supermarktproduct: hoeveel gaan we hier over twee weken van verkopen? Heb je te veel, dan krijg je voedselverspilling. Heb je te weinig, zijn producten weer niet op voorraad. Dit forecasting wordt vaak gedaan bij bedrijven, en juist hierbij blijken algoritmes erg nuttig. Je probeert ze zo slim te maken dat ze beter kunnen voorspellen dan mensen. Dat is natuurlijk iets minder sexy dan de generatieve AI-modellen die afbeeldingen maken of teksten schrijven. Maar ik denk juist wel de kant waar de maatschappij veel aan heeft, omdat je een probleem oplost.

Waarom heb je als AI-expert gekozen voor het bedrijfsleven, en bijvoorbeeld niet voor een overheidsinstelling?

De technologie is zo ongekend krachtig dat ik het wil gebruiken voor iets nuttigs als het voorkomen van voedselverspilling. Bijkomend voordeel van het bedrijfsleven is een technologisch goede omgeving. Bedrijven zijn toch vaak verder en hebben nieuwe spullen waarmee je aan de slag kan. Wat het werk ook uitdagender maakt: je kan veel meer doen. Binnen de overheid worden heel belangrijke en gave dingen gedaan op AI-gebied, maar ze missen vaak net even de technologie of überhaupt de capaciteit om dit goed te kunnen doen. Hun teams zijn veel te klein.

Bedrijven willen aan het einde van de dag winst maken. Partijen die nu enorm veel investeren in AI, zoals Microsoft, Meta en Google, willen hun verdienmodel afschermen. Schuilt daar een gevaar in?

Ja, dat is een hele interessante dynamiek. Kunstmatige intelligentie begint als academisch onderzoek met de vraag: hoe kan je dit soort algoritmes bouwen? Maar nu zit je op het tipping point waar AI ook echt commercieel nut krijgt. Er wordt al jaren heel veel geld geïnvesteerd. 

Het valt mij op dat een bedrijf als OpenAI [maker van ChatGPT, voor 49 procent in handen van Microsoft dat volgens zakenblad Fortune 13 miljard dollar investeerde in het bedrijf - red.] begon met het motto: we gaan het allemaal open doen, en nu de eerste is die het heeft afgesloten. Dus je pakt eerst wat gratis te vinden is, zet er een paar honderd onderzoekers op die het nét wat beter maken. En vervolgens bied je dat closed source aan als commercieel product. 

Dat is nu de trend bij zulke bedrijven. Een van de risico's is dat je als buitenstaander geen onderzoek meer kunt doen naar de werking ervan. Het gevolg is dat de macht wel echt bij die paar bedrijven komt te liggen. En dat heel veel controlemechanismen niet langer mogelijk zijn.

AI heeft nog een schaduwkant. Mensen willen niet altijd met algoritmes worden geconfronteerd. Kan AI in verkeerde handen vallen?

Wat binnen een jaar wel echt een issue gaat worden is WhatsApp-fraude. Dat is nu nog een heel simpel tekstberichtje waarbij een vriend of familielid appt: ik zit in de penarie, kun je geld naar me overmaken? Maar met AI is het zo ongelooflijk makkelijk om iemands stem na te maken, met emoties en alles erbij. 

Vorig jaar kwam hierover een paper uit, en een paar maanden terug was er een online tooltje. Het zal niet lang meer duren voordat criminelen dat ook gaan gebruiken. Nu zie je nog dat ceo's van grote bedrijven ermee gebeld worden. Maar ik vrees dat het op een gegeven moment ieders ouders en opa's en oma's daar slachtoffer van gaan worden. Dat baart me wel echt zorgen: wat als we onze oren niet meer kunnen geloven?

Een paar jaren geleden ging het vaak over robotisering die veel banen zou doen verdwijnen. Dat valt vooralsnog erg mee. Heeft AI die impact wel? Het IMF voorspelde vorige maand dat 60 procent van de banen in ontwikkelde economieën is blootgesteld aan AI. 

Ik denk dat de impact van AI aanzienlijk groter is. Robots moet je bouwen en dat vergt dure materialen. Elke doorbraak die er nu is met AI kan morgen op ieders telefoon staan. Het kan zich zóveel sneller verspreiden. Theoretisch gezien is het zo dat elke baan die je achter de computer uitvoert, je straks volledig door AI kan laten doen. Waarschijnlijk binnen de komende tien jaar. Ik verwacht niet dat al die banen verdwijnen, maar ze zullen wel flink veranderen.

In je boek leg je uit waarom AI een beurskoers nooit 100 procent kan voorspellen. Blijft AI altijd beperkt?

Algoritmes zijn heel goed in patronen herkennen en dat de toekomst inbrengen. Dan is het voorbeeld van beurs erg leuk. Het voorspellen van een beurswaarde is een miljardenindustrie, maar zelfs met de beste algoritmes blijft het lastig omdat zoveel factoren van invloed zijn op de waarde van aandelen. Als zo'n algoritme 99 procent van de tijd gelijk heeft, maar net die ene procent mist dat de beurs crasht. Dan is het nog steeds een waardeloos algoritme. 

Maar dat is nu. Wat als deze technologie nog verder gaat en echt het menselijke denken voorbij gaat? Dat het patronen gaat oppakken die wij helemaal niet zien of snappen? Niemand kan het zeggen hoe snel het gaat. De laatste tien jaar zitten we op een piek, maar daarvoor lag AI twintig, dertig jaar zo goed als stil.

Bekende AI-chatbots zoals ChatGPT en Google Gemini 'hallucineren' nu nog vaak: ze vullen dingen die ze niet weten zelf in en verzinnen bronnen die niet bestaan. Is zo'n taalmodel straks wel perfect en betrouwbaar?

Als je ziet hoe snel het gaat, denk ik van wel. De bronnen van deze taalmodellen worden alleen maar beter, hun data recenter. Fouten zullen blijven voorkomen, maar wel in veel mindere mate dan een jaar geleden toen er soms echt de grootste onzin uitkwam. Het is dus goed om de antwoorden van deze chatbots te blijven factchecken.

Tot slot, ik vroeg ChatGPT een vraag te bedenken voor dit interview. Dit kwam eruit: "Wat motiveerde je om 'De AI-revolutie' te schrijven, en welke belangrijke inzichten of boodschappen hoop je dat lezers uit je boek halen met betrekking tot de impact van kunstmatige intelligentie op onze samenleving?"

Nou, dat is best wel netjes, haha. Ik werk natuurlijk al langer met AI. Dus ik dacht, nu gaat iedereen ermee aan de slag. En zij zien de achterkant niet. Door de lessen die ik heb geleerd in een boek te zetten, hoop ik lezers helpen begrijpen welke fouten worden gemaakt met AI. Dat je er controlemechanismen omheen moet bouwen, en dat je de juiste vragen moet stellen.