EU werkt aan AI-wetgeving, maar Frankrijk en Duitsland liggen dwars

De nieuwe wet, de AI Act genoemd, werd in mei al goedgekeurd door het Europees Parlement. De wet gaat eisen stellen aan AI-toepassingen, en stelt strengere voorwaarden aan AI-toepassingen waarbij de risico's groter zijn. De verwachting was dat de Europese Commissie, waarin alle lidstaten vertegenwoordigd zijn, ook snel akkoord zou gaan.

Wat staat er in de AI ACT?

AI-systemen worden getoetst op hoe groot hun risico is. Daarbij worden de volgende categorieën onderscheiden:

• Systemen met een onaanvaardbaar risico worden verboden. Dat is bijvoorbeeld live gezichtsherkenning, of systemen die gericht zijn op het manipuleren van mensen.
• Systemen met een hoog risico worden constant gemonitord. Dat gaat om systemen die gebruikt worden in producten met strenge veiligheidseisen, zoals auto's of vliegtuigen. Ook AI-toepassingen die worden gebruikt in sectoren als onderwijs en justitie vallen hieronder.
• Het derde niveau is generatieve AI, en dat zijn systemen als ChatGPT. Deze moeten transparant zijn over de data waar ze mee getraind zijn en mogen geen 'illegale inhoud genereren'.
• Systemen met een laag risico zijn bijvoorbeeld programma's die automatisch foto's of video's verbeteren. Deze moeten alleen aangeven dat ze AI gebruiken.

Dat viel tegen, want bij een vergadering in november kwamen Duitsland, Frankrijk en Italië opeens met bezwaren. "Sinds de techlobby veel heviger is geworden het afgelopen halfjaar, zie je dat zij veel meer op de rem trappen", zegt Europarlementariër Kim van Sparrentak (GroenLinks) tegen RTL Z. Uit Frankrijk en Duitsland komen twee grote AI-bedrijven, respectievelijk Mistral en Aleph Alpha.

Lange geschiedenis

Daarmee komt een nieuw hoofdstuk in de toch al curieuze geschiedenis van de AI Act. Al sinds 2018 is het Europees Parlement bezig met de voorbereiding ervan, er werd met duizenden experts gesproken. In 2021 werd een conceptwet gepresenteerd. De EU leek dus voor te lopen op de technologische ontwikkelingen.

Leek, want toen kwam ChatGPT. Toen de chatbot vorig jaar voor iedereen beschikbaar werd, bleek dat de conceptwet dat soort AI-toepassingen niet goed dekte. En dus konden de Europarlementariërs terug naar de tekentafel.

Dat leidde tot de vernieuwde AI Act, maar de kans is groot dat die nog verder aangepast zal worden. Eerder probeerden Frankrijk, Duitsland en Italië een uitzondering in de wet te creëren voor zogeheten foundational models. Dat zijn de meest krachtige AI-modellen die vaak als basis voor andere toepassingen worden gebruikt, zoals Gemini van Google, OpenAI, maar ook het Franse Mistral en Duitse Aleph Alpha.

Die uitzondering ging het Europees Parlement een stap te ver. Vandaag lekte wel uit dat er mogelijk uitzonderingen worden gemaakt voor openbare modellen.

Haast

Er is haast geboden bij de onderhandelingen tussen de Europese lidstaten en het Parlement. Als er niet uiterlijk begin januari een akkoord ligt, is er mogelijk niet meer genoeg tijd voordat het Europees Parlement wordt ontbonden. In juni 2024 zijn er namelijk Europese Parlementsverkiezingen. 

De voorsprong die de EU had op het gebied van AI-wetgeving lijkt inmiddels wel een beetje vervlogen. Ook de Verenigde Staten, die lang weinig deden op dit gebied, hebben inmiddels een AI-decreet uitgevaardigd. Europarlementariër Van Sparrentak hoopt dat dat de EU motiveert: "Die regels zijn eigenlijk even streng als wij willen in Europa, dus ik hoop dat we een beetje op hetzelfde niveau blijven."

Zelfs als er voor het einde van het jaar een akkoord ligt over de AI Act, treedt de wetgeving waarschijnlijk pas in 2026 in werking.