Zes mythes over de EU AI-verordening ontkracht
Onderzoek beeld: Steve Johnson via Unsplash
De EU AI-verordening is sinds augustus 2024 officieel van kracht, maar voor burgers, bedrijven en zelfs advocaten blijft er veel onduidelijk. Hoogleraar Public Law & Governance of AI Anne Meuwese ontkracht zes hardnekkige mythes over deze complexe Europese wet.
De AI-verordening, ook wel de ‘AI Act’ genoemd, is de eerste wet ter wereld met specifieke regels voor het ontwikkelen en gebruiken van kunstmatige intelligentie. Het doel van de wet is dat AI veilig is en de grondrechten van burgers respecteert, terwijl er ook ruimte blijft voor innovatie. Niet alle bepalingen van de wet gelden al. De regels over zogenoemde ‘hoogrisicosystemen’ zijn bijvoorbeeld onlangs uitgesteld. Daarbij gaat het om specifieke AI-toepassingen die veel invloed hebben op de gezondheid, veiligheid of rechten van mensen.
Het uitstel was een noodgreep van de Europese wetgever omdat veel lidstaten, waaronder Nederland, achterlopen met het regelen van wie er toezicht gaat houden. Dat alleen al is genoeg voer voor misverstanden, maar daarnaast gaan er al langer een aantal ‘mythes’ rond over deze wet.
Mythe 1: Zolang er geen toezichthouder is, hebben burgers niets aan de wet
‘Er is al wel iets mogelijk’, zegt Meuwese, ‘ook al kun je nog geen klacht indienen bij de nationale toezichthouder.’ Burgers kunnen op twee manieren juridische actie ondernemen. Als de overheid een besluit over jou neemt waarbij AI een rol speelt, kun je de rechter vragen of dat besluit in strijd is met het recht, waaronder de AI-verordening. Heeft een bedrijf met AI schade veroorzaakt, dan kun je het bedrijf voor de rechter dagen en een schadevergoeding eisen.
‘Advocaten verwijzen al naar de AI-verordening,’ zegt Meuwese. ‘Maar dit gebeurt nog niet heel precies, en daarom doen rechters er nog weinig mee.’ Onlangs speelde de wet wel voor het eerst een rol in de uitspraak van een rechter: die oordeelde dat Case Matcher, een zoeksysteem dat de IND gebruikte, géén AI-systeem is volgens de definitie van de AI-verordening.
Mythe 2: Zonder toezichthouder kunnen organisaties ongestraft hun gang gaan
Ook dat ligt genuanceerder, zegt Meuwese. ‘Het idee is dat organisaties er zelf voor zorgen dat ze zich aan de regels houden. De hoge boetes zijn wel een prikkel om dat ook echt te doen, ook als er nog geen toezichthouder is. Het verbod op bepaalde toepassingen geldt immers al. Dat geldt ook voor transparantieregels voor chatbots, deepfakes en automatisch gegenereerde nieuwsberichten, al is er voor die laatste groep een overgangsperiode. De regels voor hoogrisicosystemen zijn uitgesteld tot december 2027, maar je ziet dat organisaties zich er nu al op voorbereiden.’
Mythe 3: De AI-verordening voorkomt een nieuwe toeslagenaffaire
De Belastingdienst gebruikte bij de toeslagenaffaire een algoritme dat ouders op risico beoordeelde, precies het soort systeem waarvoor de AI-verordening nu regels stelt. ‘Als een overheid ernstig faalt, heeft dat meestal meerdere oorzaken,’ legt Meuwese uit. ‘Dat gold zeker ook voor de toeslagenaffaire. Eén wet kan zoiets dus nooit in zijn eentje voorkomen. De vraag is eerder of de AI-verordening bij de toeslagenaffaire een belangrijk verschil had kunnen maken.’
Precies deze vraag inspireert veel studenten om hun scriptie te schrijven over de wet, vertelt Meuwese. Eén van hen is Bodine Kornman, die in haar bachelorscriptie liet zien dat de wet vooral helpt om inzicht te krijgen in hoe hoogrisicosystemen werken. Meer inzicht betekent nog niet dat besluiten ook zorgvuldig worden genomen, liet Kornman ook zien. ‘Daarvoor zijn aanvullende Nederlandse regels nodig, en die zijn er nu maar gedeeltelijk,’ zegt Kornman. ‘Daarnaast bestaat het risico dat bij meer regelgeving verkeerde besluiten misschien juist eerder aanvaard zullen worden, omdat mensen dan op het systeem vertrouwen.’
Mythe 4: Maar het profileren van burgers wordt toch al verboden door de AI-verordening?
Dit is volgens Meuwese de meest hardnekkige mythe. De AI-verordening verbiedt inderdaad zowel ‘social scoring’, waarbij burgers een soort sociale score krijgen, en ‘predictive policing’, waarbij wordt voorspeld wie een misdrijf gaat plegen. Die verboden zijn veel selectiever dan vaak wordt gedacht. Bij ‘social scoring’ moet je bijvoorbeeld denken aan geen vergunning kunnen krijgen omdat je hebt zwartgereden in de trein.
‘De meeste profileringsalgoritmen zullen hooguit als hoogrisicosysteem gelden, en die zijn ook na december 2027 toegestaan, zolang ze aan de eisen voldoen. Profileren kan wel – en dat was vóór de AI-verordening ook zo – op grond van andere wetgeving verboden zijn. Bijvoorbeeld als het discrimineert of in strijd met het verbod op volledig geautomatiseerde besluitvorming van de AVG wordt ingezet.’
Mythe 5: De overheid moet zichzelf controleren, dat kan toch niet onafhankelijk?
‘Jawel,’ zegt Meuwese, ‘want de overheid is geen blok: toezichthouders werken binnen een systeem van checks and balances, waarin verschillende machten elkaar controleren. De AI-verordening eist dat nationale toezichthouders onafhankelijk zijn, en de Europese Commissie ziet daarop toe.’ Bovendien houden veel toezichthouders die hiervoor in beeld zijn, zoals de Autoriteit Persoonsgegevens, nu al toezicht op wetten die ook voor de overheid zelf gelden.’ Een voorbeeld daarvan is de privacywet AVG.’
Mythe 6: De AI-verordening is nu ‘klaar’
‘Wetgeving is nooit ‘klaar’’ zegt Meuwese, ‘en de AI-verordening al helemaal niet. Ze noemt agentic AI als voorbeeld. Dat is AI die zelfstandig doelen kan bereiken en complexe taken uitvoert, zonder dat een mens elke stap hoeft voor te schrijven. ‘De grote vraag is hoe de AI-verordening de ontwikkeling en het gebruik van AI gaat beïnvloeden. Ik ben vooral benieuwd of de wetgever en toezichthouders de ontwikkelingen rond agentic AI kunnen bijbenen.’
Anne Meuwese en Francien Dechesne doen met een subsidie van NWO (Open Competitie M) onderzoek naar hoe professionals in Nederland omgaan met de nieuwe AI-wet. Ook zal begin 2027 het boek ‘Generatieve AI bij de overheid en het recht’ verschijnen dat Meuwese schreef over dit onderwerp.