Toezichtsraad Meta: nepvideo Biden mag, maar regels moeten op de schop
Meta moet het beleid over deepfakes - nepvideo's gemaakt met kunstmatige intelligentie - nog eens goed onder de loep nemen. Dat adviseert een door Meta zelf opgerichte toezichtsraad, naar aanleiding van een gemanipuleerde video van de Amerikaanse president Joe Biden en zijn kleindochter.
De zoegenoemde Oversight Board doet deze uitspraak na een video die vorig jaar op Facebook werd verspreid, op basis van echte beelden van de Amerikaanse president Joe Biden uit 2022.
Op de echte beelden plakt hij een sticker op de schouder van zijn kleindochter, maar in de gemanipuleerde video zijn de beelden zo gemonteerd dat het lijkt alsof hij aan haar borst zit. In de tekst onder de video wordt de president beschreven als 'pedofiel', schrijft de Oversight Board in zijn conclusie.
De video ging viraal, waarna een gebruiker de video rapporteerde als haatdragend. Omdat het geautomatiseerde systeem de melding automatisch sloot zonder toelichting, ging de gebruiker in beroep bij Meta.
Een menselijke moderator besloot vervolgens dat de video niet in strijd was met de huisregels en liet hem online staan. De gebruiker stapte naar de Oversight Board, die Meta nu dus in het gelijk stelt.
'Deepfake-regels zijn verwarrend'
Meta heeft zijn eigen regels voor gemanipuleerde media goed toegepast, zegt de raad. Want de video laat de president geen dingen zeggen die hij nooit heeft gezegd en er is geen kunstmatige intelligentie gebruikt.
Tegelijkertijd uit de toezichtsraad kritiek op deze regels. Want dat beleid is volgens de raad 'onsamenhangend', 'verwarrend voor gebruikers' en te nauw. De regels gaan volgens de Oversight Board te veel over hoe iets is gemaakt en te weinig over welke schade moet worden voorkomen.
De regels zouden volgens de raad ook moeten gelden voor geluidsbestanden en content waarop mensen dingen lijken te doen die ze niet hebben gedaan. En ook beelden die gemonteerd zijn zónder kunstmatige intelligentie zouden onder die regels moeten vallen.
"Het huidige beleid specificeert niet duidelijk welke schade het probeert te voorkomen. Meta moet meer duidelijkheid bieden over wat die schade is en moet snel herzieningen doorvoeren, gezien het recordaantal verkiezingen in 2024", schrijft de toezichtsraad.
De Oversight Board van Meta buigt zich vaker als een soort hooggerechtshof over zaken waarbij Meta wil weten of de eigen regels zijn toegepast. Of Meta de adviezen opvolgt moet blijken: het techbedrijf is niet verplicht om dat te doen.